Jejaring sosial. Sebuah ‘kudeta di Prancis’? Video yang dihasilkan AI ini disumpah oleh Emmanuel Macron

Kerumunan orang berkumpul di jalan, seorang tentara bersenjata, sebuah helikopter terbang di atas Menara Eiffel dan seorang jurnalis di latar depan. Wanita muda, yang dikatakan bekerja untuk saluran bernama “Live 24”, mengumumkan “jatuhnya Macron” dalam “kudeta di Prancis yang dipimpin oleh seorang kolonel”. Video berdurasi 15 detik tersebut, yang dipublikasikan di Facebook pada 9 Desember dan sejak itu telah ditonton 13 juta kali, menimbulkan kekhawatiran. Audiens yang terinformasi pasti akan menyadari: hal ini dihasilkan oleh kecerdasan buatan (AI). Banyak netizen yang masih terkecoh, jika komentar di bawah video itu bisa dipercaya. Diantaranya: seorang pemimpin Afrika, yang bahkan merasa perlu mendengar pendapat Emmanuel Macron.

Presiden Prancis kembali ke episode ini pada hari Selasa, saat berbincang di Marseille dengan para pembaca surat kabar harian Provence : “Pada hari Minggu, salah satu kolega saya di Afrika mengirimi saya pesan: “Presiden yang terhormat, ada apa dengan Anda? Saya sangat prihatin.” » Kepala Negara mengatakan bahwa konten ini awalnya “membuatnya tertawa.” Sebuah hiburan sesaat ketika dia mengetahui bahwa Facebook menolak untuk ‘menghapus’ informasi palsu tersebut, meskipun laporan tersebut dirilis atas permintaannya oleh platform Pharos. Tanggapan Facebook: “Ini tidak melanggar aturan penggunaan kami.” Penolakan untuk mundur”, Emmanuel Macron marah pada pertemuan yang ditujukan untuk regulasi jejaring sosial ini. “Orang-orang ini mengolok-olok kami,” serbunya, menyadari ketidakberdayaannya di hadapan platform besar.

Label bukannya penarikan

Saat dihubungi, Meta (perusahaan induk Facebook, tetapi juga Instagram dan Threads) tidak menjelaskan kepada kami alasan penolakannya. Di situsnya, perusahaan multinasional tersebut menjelaskan bahwa “Standar Komunitas” – dengan kata lain aturan penggunaannya – “berlaku untuk semua konten”, termasuk konten yang dibuat oleh AI. Namun, dalam “Standarnya”, Meta hanya berkomitmen untuk “menghapus informasi palsu jika informasi tersebut kemungkinan besar berkontribusi langsung terhadap risiko kerugian fisik” atau “secara langsung mendorong campur tangan terhadap berfungsinya proses politik” (seperti pemilu).

Ketika konten yang dibuat atau diedit oleh AI “menimbulkan risiko tinggi yang dapat menyesatkan publik secara signifikan mengenai suatu topik yang menjadi kepentingan publik” namun tidak memenuhi salah satu kriteria tersebut, “perusahaan hanya akan memberi label informasi pada konten tersebut.” Hal inilah yang dilakukan dalam video yang disebutkan oleh Emmanuel Macron: “Konten ini mungkin dibuat atau diubah secara digital agar tampak nyata,” bisa kita baca di bagian bawah layar. Facebook bukan satu-satunya platform yang melakukan hal ini. Kami menemukan video yang sama di TikTok (dilihat lebih dari 500.000 kali). Hal ini juga disertai dengan peringatan (“Berisi media yang dihasilkan AI”), yang tidak terlalu jelas.

Tiga video lain dalam genre yang sama Video ini bukan satu-satunya yang beredar di media sosial. Faktanya, pengguna yang membuatnya sudah terbiasa dengan jenis konten ini. Di akun Facebooknya, antara a sangat palsu

Semua deepfake tentang apa yang disebut ‘kudeta di Prancis’ diposting oleh pengguna yang sama. Tangkapan layar Facebook

Jenis konten seperti ini “menciptakan kekacauan,” kecam Emmanuel Macron pada hari Selasa, dengan latar belakang krisis pertanian di Perancis. Dalam pertemuannya pada akhir bulan November dengan para pembaca kelompok EBRA (di mana surat kabar Anda merupakan salah satu bagiannya), presiden menyesalkan penggunaan jejaring sosial “oleh kekuatan asing untuk menggoyahkan demokrasi kita.”

Apakah ini tujuan pengguna yang memposting video ini? Sulit untuk mengatakannya. Setidaknya di Facebook, tampaknya mereka menggunakan visibilitasnya untuk mempromosikan pelatihan AI. Kode area nomor telepon yang dimaksud adalah Burkina-Faso. Dan untuk saat ini, dia dapat terus menyebarkan informasi palsu tanpa mendapat hukuman. Emmanuel Macron mengatakan pada hari Selasa bahwa dia ingin mengubah peraturan Perancis dan Eropa mengenai disinformasi: “Jika kami jelas-jelas memiliki konten palsu yang membahayakan keamanan publik, kami harus dapat menghapusnya,” katanya. Tugasnya tetap meyakinkan UE, yang memiliki kompetensi di bidang ini, untuk lebih membatasi platform tersebut.