headline Internet & Networking Technology

Dewan Pengawas Menyarankan Meta untuk Menerapkan Peraturan Baru pada Konten yang Dihasilkan oleh AI

bila salsabila2 hari ago

1 2 minutes read

Dewan Pengawas kembali mendesak Meta untuk merevisi aturannya terkait konten yang dihasilkan oleh AI. Kali ini, dewan menyarankan Meta untuk membuat aturan terpisah untuk konten AI yang independen dari kebijakan penyebaran informasi palsu, berinvestasi dalam alat deteksi yang lebih handal, dan membuat penggunaan yang lebih baik dari tanda air digital di antara perubahan lainnya.

Rekomendasi kelompok ini berasal dari sebuah video yang dihasilkan oleh AI dan dibagikan tahun lalu yang diklaim menunjukkan bangunan yang rusak di kota Israel, Haifa, selama konflik Israel-Iran pada 2025. Klip tersebut, yang telah ditonton lebih dari 700.000 kali, diposting oleh akun yang mengaku sebagai outlet berita tetapi sebenarnya dijalankan oleh seseorang di Filipina.

Setelah video tersebut dilaporkan ke Meta, perusahaan menolak untuk menghapusnya atau menambahkan label “berisiko tinggi” AI yang akan dengan jelas menunjukkan konten tersebut telah dibuat atau dimanipulasi dengan AI. Dewan membatalkan keputusan Meta untuk tidak menambahkan label “berisiko tinggi” dan mengatakan kasus ini memperlihatkan beberapa area di mana aturan AI perusahaan saat ini tidak memadai.

“Meta harus berbuat lebih banyak untuk mengatasi penyebaran konten yang dihasilkan oleh AI yang menyesatkan di platformnya, termasuk oleh jaringan akun dan halaman yang tidak otentik atau menyalahgunakan, terutama dalam hal-hal yang menarik minat publik, sehingga pengguna dapat membedakan antara apa yang nyata dan apa yang palsu,” tulis dewan dalam keputusannya. Meta akhirnya menonaktifkan tiga akun yang terhubung ke halaman tersebut setelah dewan menandai “sinyal-sinyal penipuan yang jelas.”

Salah satu rekomendasi teratas dewan adalah agar Meta membuat aturan khusus untuk konten yang dihasilkan oleh AI yang terpisah dari kebijakan penyebaran informasi palsu. Menurut dewan, aturan tersebut harus mencakup detail tentang bagaimana dan kapan pengguna diharuskan memberi label konten AI serta informasi tentang bagaimana Meta memberi sanksi kepada mereka yang melanggar aturan tersebut.

Dewan juga sangat kritis tentang bagaimana Meta menggunakan label “Info AI” saat ini, dengan mencatat bahwa cara mereka diterapkan tidak cukup kuat atau komprehensif untuk mengatasi skala dan kecepatan konten yang dihasilkan oleh AI, terutama dalam masa konflik atau krisis. “Sistem yang terlalu bergantung pada pengungkapan diri penggunaan AI dan peninjauan yang ditingkatkan (yang jarang terjadi) untuk memberi label output ini tidak dapat memenuhi tantangan yang ada dalam lingkungan saat ini.”

Meta, kata dewan, juga perlu berinvestasi dalam teknologi deteksi yang lebih canggih yang dapat dengan andal memberi label media AI, termasuk audio dan video. Kelompok tersebut menambahkan bahwa mereka “khawatir” tentang laporan bahwa perusahaan “tidak konsisten dalam menerapkan” tanda air digital pada konten AI yang dibuat oleh alat AI miliknya sendiri.

Meta tidak segera merespon permintaan untuk komentar tentang keputusan Dewan Pengawas. Perusahaan memiliki waktu 60 hari untuk merespon secara formal terhadap rekomendasi tersebut.

Keputusan ini bukanlah kali pertama dewan mengkritik penanganan Meta.