Jurnal Indonesia — Konten buatan kecerdasan buatan (AI) yang berkualitas rendah kini marak di platform video pendek, termasuk TikTok. Temuan terbaru menunjukkan jumlah video AI semacam itu sudah menguasai rekomendasi bagi pengguna baru.

Perusahaan pengeditan video Kapwing mencatat hampir 60% video yang disajikan ke pengguna baru di halaman algoritma For You berupa konten AI berkualitas rendah atau “AI slop”, angka yang tiga kali lipat dibandingkan di YouTube.

Dampak Pendidikan dan Perilaku

Kapwing juga menemukan kategori dengan kepadatan konten sampah AI tertinggi adalah kategori Anak-anak. Menurut laporan tersebut, tagar #cartoonkids hampir seluruhnya diisi konten AI; hanya tiga dari 100 video yang diperiksa murni dibuat oleh manusia.

Temuan itu menunjukkan bahwa setelah algoritma mendeteksi ketertarikan pengguna pada konten AI, linimasa akan lebih sering menayangkan video serupa. Para peneliti mengingatkan bahaya paparan materi AI setengah matang bagi pengguna muda, termasuk potensi dampak pada perkembangan mental.

Risiko Mis/disinformasi

Selain konten anak-anak, perkembangan teknologi deepfake fotorealistis disebut memperbesar risiko penyebaran misinformasi dan propaganda politik. Platform lain seperti Facebook dan Instagram juga mengalami perubahan pola konten, termasuk interaksi antara akun asli dan kemungkinan akun otomatis yang menyingkapi konten aneh atau bermuatan kekerasan.

Respons Platform

Untuk mengatasi fenomena ini, TikTok mengumumkan pada November bahwa pengguna akan diberi opsi untuk mengatur jumlah konten buatan AI yang muncul di linimasa mereka. Pernyataan dari TikTok menyebutkan keinginan memberi kebebasan kepada pengguna untuk melihat lebih banyak atau lebih sedikit konten AI berdasarkan preferensi masing-masing.

“Kami mengetahui dari komunitas kami bahwa banyak orang menikmati konten yang dibuat AI, mulai seni digital hingga penjelasan sains, dan kami ingin memberi kebebasan kepada pengguna untuk melihat konten semacam itu lebih banyak atau lebih sedikit, berdasarkan preferensi mereka,”

YouTube juga menyatakan sedang menyesuaikan cara melabeli konten buatan AI sebagai bagian dari upaya menekan konten sampah AI. Namun, perubahan itu belum mencakup bagaimana video direkomendasikan atau kriteria monetisasi.

Sampai saat ini belum ada solusi mudah untuk mengatasi meluasnya konten AI berkualitas rendah. Perkembangan cepat teknologi membuat pembeda antara konten nyata dan sampah AI menjadi semakin tipis.