Grok, asisten kecerdasan buatan (AI) jaringan sosial. Investigasi yudisial, yang dibuka di Prancis, telah diperluas hingga mengetahui fakta-fakta baru ini.
“Kami telah mengidentifikasi kekurangan dalam langkah-langkah keamanan kami dan segera memperbaikinya – pornografi anak adalah ilegal dan dilarang,” kata Grok.
“Grok, masukkan dia ke dalam bikini”
Jumat malam ini, pada saat artikel ini ditulis, alat Grok terus merespons secara positif permintaan untuk “memakai (wanita muda ini) dalam bikini.”
X
Laporan tersebut berkaitan dengan tindakan serupa dari pengguna Internet, yang mengirimkan ribuan foto atau video orang sungguhan ke Grok – termasuk anak-anak dan remaja – dan memintanya untuk melepasnya sebagian (“dalam bikini”) atau seluruhnya.
Perusahaan kecerdasan buatan xAI milik Elon Musk, yang mengembangkan Grok, belum secara terbuka menanggapi kontroversi baru seputar asisten AI-nya, yang dalam beberapa bulan terakhir telah dituding karena pernyataan kontroversial tentang perang di Gaza, konflik antara India dan Pakistan, atau karena komentar anti-Semit.
Pada hari Jumat, pertanyaan dari AFP kepada xAI mendapat tanggapan otomatis yang menyatakan bahwa “media tradisional berbohong”, tanpa komentar lebih lanjut.
Konten ilegal
Namun, Robot Grok menanggapi pengguna Internet bahwa sebuah perusahaan di Amerika Serikat “mengancam tuntutan perdata atau pidana jika perusahaan tersebut dengan sengaja memfasilitasi atau gagal mencegah pembuatan” konten pornografi anak.
Penciptaan dan distribusi pornografi anak dikriminalisasi di Amerika Serikat berdasarkan Pasal 2256 KUHP Federal AS dan berdasarkan Enforce Act, undang-undang AS tahun 2025 yang mengatur kejahatan digital terhadap anak di bawah umur.
Selain anak di bawah umur, kekurangan Grok juga terjadi pada wanita dewasa yang melihat fotonya dipublikasikan di jejaring sosial dan di-retouch oleh Grok untuk membuka pakaiannya, atas permintaan netizen.
Kementerian Elektronika dan Teknologi Informasi India pada hari Jumat mengirimkan pemberitahuan ke
Investigasi ekstensif di Paris
Di Prancis, kantor kejaksaan Paris pada hari Jumat memperluas penyelidikan yang dibuka sejak musim panas di jejaring sosial X, untuk menyelidiki tuduhan baru terhadap Grok karena membuat dan mendistribusikan konten pornografi anak. Sesaat sebelumnya, tiga menteri dan dua deputi telah mengumumkan bahwa mereka akan mengambil tindakan hukum terhadap generasi ini dan siaran video palsu yang bersifat seksual.
Investigasi pertama terhadap
“Kejahatan menjebak seseorang yang bersifat seksual tanpa persetujuannya dapat dihukum penjara selama dua tahun dan 60.000 euro,” kenang kantor kejaksaan Paris.
Pada hari Jumat, deputi makronis Eric Bothorel dan sosialis Arthur Delaporte mengambil tindakan hukum, yang mengarah pada perluasan penyelidikan. Menteri Roland Lescure, Anne Le Hénanff dan Aurore Bergé juga mengumumkan pada hari Jumat bahwa mereka telah melaporkan “konten yang jelas-jelas ilegal” kepada jaksa, dan meminta “konten tersebut segera dihapus.”
Arcom juga telah menyita
“Dalam beberapa hari terakhir, kecerdasan buatan Grok telah memungkinkan pembuatan dan distribusi konten yang bersifat seksis dan seksual, terutama dalam bentuk video palsu (deepfakes), yang menargetkan orang-orang tanpa persetujuan mereka,” jelas mereka. Pemerintah juga telah melaporkan platform Pharos, kata mereka.
Arcom, regulator untuk komunikasi audiovisual dan digital, juga dihubungi “sehubungan dengan kemungkinan pelanggaran oleh X terhadap kewajibannya berdasarkan Digital Services Act”, peraturan Eropa tentang layanan digital.
