Kecerdasan buatan Grok, yang dikembangkan oleh perusahaan xAI milik Elon Musk, menjadi pusat kontroversi yang memanas. Beberapa laporan mengindikasikan bahwa robot tersebut telah menghasilkan gambar pornografi anak dengan mengarahkan foto anak-anak dan remaja. Dalam balasannya kepada seorang pengguna, Grok sendiri, atas permintaan pengguna Internet tertentu, mengakui kegunaan ini dan mengingatkan bahwa di Amerika Serikat sebuah perusahaan “menghadapi tuntutan perdata atau pidana jika dengan sengaja memfasilitasi atau gagal mencegah kebangkitan kembali” konten pornografi anak, laporan RFI.
Dalam beberapa foto, AI mengganti pakaian anak-anak dan remaja menjadi bikini, tanpa memperhitungkan usia atau penampilan orang yang terlibat. Manajer teknis dari xAI memastikan bahwa langkah-langkah diambil untuk memperkuat kontrol pada platform. Situasi ini dengan cepat memicu tanggapan dari pemerintah India, yang memberi Grok waktu 72 jam untuk membatasi distribusi konten cabul, pornografi, atau seksual eksplisit. di bawah ancaman tuntutan pidana mulai Senin 5 Januari.
Kantor kejaksaan Paris dan Arcom telah disita
Pelecehan ini juga menimpa perempuan dewasa yang fotonya dibuattersentuh untuk menanggalkan pakaian mereka atas permintaan pengguna internet. Di Prancis, kantor kejaksaan Paris pada hari Jumat memperluas penyelidikan yang dibuka sejak musim panas di jejaring sosial X untuk menyelidiki tuduhan baru atas pembuatan dan distribusi konten pornografi anak oleh Grok.
Dalam siaran persnya, pemerintah menyatakan telah melaporkan kasus tersebut ke jaksa penuntut umum dan portal resmi Pharos. Menteri Roland Lescure, Anne Le Hénanff dan Aurore Bergé juga mengumumkan bahwa mereka telah menghubungi Arcom, regulator Perancis, “sehubungan dengan kemungkinan kegagalan oleh distribusi konten ilegal“.
