Pistol Air Dideteksi kekerasan, AI Instagram Kadang Bermasalah

RIAU24.COM -  Putri Silalahi Kepala Komunikasi Instagram Asia Tenggara mengakui teknologi kecerdasan buatan Instagram terkadang salah mengidentifikasi konten penggunanya.

Dia mengatakan teknologi itu tetap harus diverifikasi oleh manusia sebelum konten pengguna diturunkan.

"Jadi memang ada AI, makanya kadang-kadang suka salah [mengidentifikasi konten]. Yang namanya mesin bisa bermasalah," ujar Putri kepada wartawan, di Jakarta, Kamis (21/4).

Misalnya, kata Putri, sebuah konten isinya seorang anak sedang memegang pistol air. Maka, teknologi menyimpulkan konten itu mengandung kekerasan. AI melihatnya violance karena (ada) pistol.

Meski demikian Putri mengatakan kebijakan take down konten di Instagram tetap mengacu pada pedoman komunitas dengan tetap memberi kesempatan untuk memperbaiki.

"Jadi dia (konten pengguna) enggak langsung diturunin, tapi kalau misalnya ujaran kebencian biasanya kita kasih kesempatan, kalau dilakuin lagi baru kita take down," kata Putri.