“Groc, buka bajunya”: setelah beberapa hari kontroversi, beberapa menteri melaporkan kepada jaksa konten ilegal yang dihasilkan oleh Grok, kecerdasan buatan yang dikembangkan oleh perusahaan Elon Musk di X Network (sebelumnya Twitter). Dalam gambar-gambar yang bersifat seksis atau seksual, yang dihasilkan oleh AI dan dipublikasikan di jejaring sosial, orang-orang telanjang, mengenakan bikini, tanpa persetujuan mereka.
Selama beberapa hari, pengguna internet telah meminta robot Grok untuk menelanjangi individu, termasuk remaja dan anak-anak, dengan menawarkan foto atau video, tanpa keamanan platform yang mencegah publikasi. Beberapa gambar atau video ini masih online.
Pelanggaran pidana
“Membuat konten yang bersifat seksual tanpa persetujuan orang yang gambarnya telah digunakan dan dikaburkan merupakan pelanggaran pidana,” kenang Aurore Bergé, Menteri Kesetaraan antara Perempuan dan Laki-Laki dan Perjuangan Melawan Diskriminasi. Dia adalah salah satu menteri yang bersama Roland Lescure (menteri perekonomian) dan Anne Le Hennanff (menteri yang bertanggung jawab atas kecerdasan buatan dan teknologi digital), menghubungi Kejaksaan.
“Setiap fakta tidak hanya akan diungkap, tapi yang terpenting akan dilaporkan, sehingga keadilan dapat ditegakkan. Hukum adalah hukum. Baik offline maupun online,” jelas Aurore Bergé.
“Kekerasan seksual”
Komisaris Tinggi untuk Anak-anak, Sarah el Haïri, “skandal”, mengingat bahwa kejahatan merekam seseorang yang bersifat seksual tanpa persetujuan mereka dapat dihukum dua tahun penjara dan 60,000 euro. “Membuat dan mendistribusikan gambar seksual yang dihasilkan oleh AI tanpa izin adalah kekerasan seksual,” tegasnya, seraya menyerukan agar gambar apa pun yang dibuat dan didistribusikan tanpa izin untuk dilaporkan di platform Pharos.
Deputi Arthur Delaporte (PS, Calvados) dan Eric Bothorel (terkait dengan Renaissance, Cotes d’Armor) telah mengambil tindakan hukum. Yang terakhir telah menerima pembukaan penyelidikan hukum terhadap X Network pada bulan Februari lalu menyusul perubahan algoritma jaringan sosial yang cenderung menyoroti konten tertentu.
Oleh karena itu, kantor kejaksaan Paris memperluas penyelidikannya terhadap X hingga ke kecerdasan buatan (AI). Arcom, regulator untuk komunikasi audiovisual dan digital, juga dihubungi “sehubungan dengan kemungkinan pelanggaran oleh X terhadap kewajibannya berdasarkan Digital Services Act”, peraturan Eropa tentang layanan digital.
