SOROTJATIM.COM – Konten buatan kecerdasan buatan (AI) yang berkualitas rendah atau sering disebut sebagai “AI slop” kini menjadi sorotan utama dalam dunia digital. Khususnya, masalah ini muncul di platform YouTube Kids, yang seharusnya menjadi ruang aman bagi anak-anak untuk menikmati konten edukatif dan hiburan yang sesuai usia.
Sejumlah besar advokat anak, dokter spesialis anak, dan organisasi pendidikan telah menyampaikan kekhawatiran mereka terhadap maraknya konten AI yang tidak terkontrol di YouTube Kids. Mereka menilai bahwa banyak dari konten tersebut dirancang untuk menarik perhatian anak-anak, bukan untuk memberikan manfaat edukatif. Dalam surat yang ditujukan kepada CEO Google Sundar Pichai dan CEO YouTube Neal Mohan, para pihak ini meminta Google untuk segera mengambil tindakan tegas agar konten AI tidak lagi muncul di platform tersebut.
Persyaratan dan Tuntutan dari Kelompok Advokasi Anak
Surat tersebut juga menyatakan bahwa belum ada bukti yang cukup untuk membuktikan bahwa konten AI slop aman bagi anak-anak. Bahkan, potensi bahaya dari video-video ini dinilai sangat tinggi, karena bisa memengaruhi kemampuan anak-anak dalam membedakan antara realitas dan fiksi. Selain itu, masalah lain yang muncul adalah penggunaan layanan digital yang berlebihan, yang dapat mengurangi waktu bermain dan interaksi sosial anak-anak.
Kelompok advokasi ini juga menyoroti bahwa YouTube melakukan eksperimen tanpa batas pada anak-anak, dengan memproduksi konten AI tanpa adanya bukti jelas bahwa konten tersebut benar-benar bermanfaat. Untuk itu, mereka mengajukan beberapa tuntutan, seperti:
- Memberi label jelas pada semua konten buatan AI
- Melarang konten AI di YouTube Kids
- Melarang video khusus untuk anak-anak yang dibuat oleh AI
- Melarang rekomendasi algoritma konten AI untuk pengguna di bawah 18 tahun
- Menerapkan tombol khusus agar orang tua bisa memfilter konten AI meskipun dicari anak-anak
- Menghentikan semua investasi dalam pembuatan video AI untuk anak-anak
Tanggapan dari YouTube
YouTube mengaku bahwa mereka tidak mengabaikan isu ini. Juru bicara platform tersebut menyatakan bahwa mereka telah membatasi konten AI di YouTube Kids hanya pada saluran yang telah diverifikasi. Selain itu, kreator video harus memberikan keterangan jika konten mereka dibuat menggunakan AI.
Namun, bagi kelompok yang mengkritik, langkah-langkah yang diambil oleh YouTube dinilai masih kurang. Meskipun sistem mereka dirancang untuk menghukum konten spam yang diproduksi secara massal, hal ini belum cukup untuk mengatasi masalah yang muncul.
Investasi Google di Studio Animasi AI
Di sisi lain, Google baru-baru ini melakukan investasi besar di Animaj, studio animasi AI yang fokus pada produksi video YouTube untuk anak-anak. Video-video yang dihasilkan oleh studio ini telah mencapai jutaan penonton melalui berbagai saluran. Hal ini memicu pertanyaan lebih lanjut tentang komitmen Google dalam menjaga keamanan dan kualitas konten di platform anak-anak.
Dengan situasi ini, semakin banyak pihak yang mempertanyakan apakah Google benar-benar memprioritaskan kepentingan anak-anak dalam pengembangan teknologi AI. Masalah ini tidak hanya menjadi tanggung jawab Google, tetapi juga menjadi perhatian penting bagi seluruh industri digital yang berfokus pada pengguna anak-anak.
