Setelah laporan awal pada tahun 2023 mengenai konsekuensi personalisasi konten ‘Untuk Anda’ terhadap kesehatan remaja, Amnesty International kali ini menyerang algoritma Perancis secara lebih spesifik. Melalui penelitiannya Menyeret ke bawah “lubang kelinci”. diterbitkan pada hari Selasa, 21 Oktober bekerja sama dengan Harris Institute, LSM tersebut menyesalkan hasil yang semakin mengkhawatirkan mengenai keselamatan remaja di platform tersebut, dan khawatir dengan kelambanan Tik Tok Prancis dalam mengatasi hal ini.
Kaum muda sadar, tapi tidak cukup
Hampir sepertiga masyarakat Prancis rutin membuka aplikasi tersebut di ponsel mereka, dengan 21,4 juta pengguna aktif. Di antara anak muda berusia antara 13 dan 25 tahun yang disurvei, lebih dari 80% mengaku menghabiskan “terlalu banyak waktu” di jejaring sosial. Separuh dari mereka mengatakan bahwa mereka sering terpapar pada konten-konten yang meresahkan, baik itu promosi tentang tubuh ideal, gangguan makan, atau, dalam kasus yang paling serius, penyebaran pemikiran untuk bunuh diri dan publikasi terkait depresi dan tindakan menyakiti diri sendiri. Sebuah fenomena yang berbahaya bagi kesehatan mental generasi muda; 58% mengatakan mereka merasa terganggu dengan hal tersebut, melaporkan perasaan tidak nyaman, sedih dan berdampak pada harga diri mereka. Angka ini meningkat menjadi 75% di kalangan perempuan muda berusia 16 hingga 21 tahun.
Ketika 69% anak muda yang disurvei menjelaskan bahwa mereka telah mencoba berhenti terpapar konten semacam ini, hanya seperlima yang percaya bahwa mereka benar-benar berhasil. Survei ini menunjukkan remaja sadar akan risikonya, namun separuh dari mereka tidak menyadari bahwa umpan “Untuk Anda” yang ditawarkan aplikasi kepada mereka sebenarnya sangat dipersonalisasi, berdasarkan data pribadi dan minat mereka. Sebuah cara bagi Tik Tok untuk “memaksimalkan keterlibatan dan waktu yang dihabiskan di platform,” kecam LSM tersebut.
Pesan bunuh diri dalam 45 menit
Dengan menempatkan diri mereka pada posisi pengguna muda berusia 13 tahun di jejaring sosial melalui akun palsu, Amnesty International menyaksikan secara langsung mekanisme algoritma Tik Tok yang sangat cepat. Hanya setelah beberapa jam digunakan, hasilnya mengkhawatirkan: dalam 45 menit, video yang ditawarkan berisi pesan eksplisit tentang bunuh diri untuk dua dari tiga profil, dan setelah tiga jam, “semua akun dibanjiri dengan konten gelap, terkadang secara langsung mengungkapkan keinginan untuk mengakhiri hidup seseorang.” Ilustrasi sempurna dari ‘lubang kelinci’, efek spiral yang mengerikan: dengan melihat publikasi yang direkomendasikan oleh algoritme, awalnya karena penasaran atau karena merasa tertantang, kaum muda bisa saja terjebak.
Kini berusia 17 tahun, Maëllys menjadi korban rekomendasi ini selama masa studinya. “Awalnya saya menonton tarian, pemutaran film Disney, reality TV, dan adegan film,” jelasnya kepada Amnesty International. Namun dengan cepat topik ‘Untukmu’ miliknya berkembang: “Di kelas 5 SD saya mulai mengalami hal-hal yang menyedihkan, saya sangat cepat menyukai video-video ini karena saya khawatir. Kemudian Tik Tok menawarkannya lagi kepada saya dan semua konten di feed berita saya sedih, berbicara tentang depresi.” Dan roda gigi mulai terbentuk: “Semakin saya melihat, semakin saya menemukan ‘solusi’, misalnya tempat berlindung bagi silet. (…) Anda tidak lagi memiliki kenangan masa lalu, ketika Anda sehat, ketika Anda merasa bahagia. Anda mengatakan pada diri sendiri bahwa Anda selalu tidak bahagia. (…) Kami tetap di sana, kami melanjutkannya dan ini adalah lingkaran setan.”
“Kami berada pada level nol dalam regulasi”
Spiral ini terkadang berakibat fatal. Kolektif Algos Victima, yang didirikan pada tahun 2024, mengajukan banding terhadap Tik Tok di pengadilan Créteil pada November lalu, menyusul kasus bunuh diri dua gadis remaja pada tahun 2021 dan 2023. Tujuh keluarga, yang tergabung dalam kolektif ini, dan pengacara mereka Laure Boutron-Marmion, menganggap permohonan tersebut bertanggung jawab atas memburuknya kesehatan mental anak-anak mereka. Sejak itu, telepon dari keluarga baru terus berdatangan ke kantor pengacara di bar Paris: “Telepon tidak berdering, saya menghitung ada sekitar enam puluh orang tua hari ini,” lapor Me Boutron-Marmion.
Prosedurnya ‘berjalan’, Tik Tok telah memutuskan untuk diwakili oleh seorang pengacara, dengan sidang yang akan berlangsung ‘sekitar tahun depan’. Pengacara ingin melihatnya sebagai “kemenangan besar” bagi keluarga kolektif, yang “akan bisa mendapatkan jawaban di hadapan raksasa yang telah berdosa selama bertahun-tahun karena diamnya”. Ini adalah pendekatan yang “belum pernah terjadi sebelumnya” karena “platform tersebut sudah lama berpandangan bahwa konten tersebut bukan milik mereka, dan oleh karena itu mereka tidak perlu mengontrol apa yang beredar”. Namun, “perselisihan pertanggungjawaban” ini adalah “yang paling klasik”, pengacara tersebut menjelaskan: “Seperti pertanggungjawaban perusahaan mana pun di pengadilan, Tik Tok tidak terkecuali. Dengan berkembang di Prancis, ini tunduk pada hukum Prancis, dan sangat jelas dalam bidang pertanggungjawaban perdata.” Dan ketika kemerosotan kesehatan generasi muda tertentu terjadi pada “kecepatan yang mengesankan”, hal ini hanya disebabkan oleh “viralitas dan penggunaan jejaring sosial”, tegas Me Boutron-Marmion, dalam apa yang ia anggap sebagai “Wild West digital”. Saat ini, “kita berada pada level nol dalam regulasi.”
Menuju pelarangan platform untuk anak muda di bawah usia 15 tahun?
Pada bulan Juli 2022, Uni Eropa mengadopsi Peraturan Layanan Digital (DSA), dengan tujuan menyelaraskan perlindungan manusia, termasuk anak-anak, secara online. Teks ini memerlukan platform besar untuk melindungi anak di bawah umur dan membatasi risiko sistemik ketika mereka teridentifikasi. Melalui penyelidikannya, Amnesty International mengecam pelanggaran yang dilakukan Tik Tok terhadap kewajibannya berdasarkan hukum Eropa dan mengumumkan bahwa mereka akan mengajukan banding ke Arcom.
Upaya pengawasan dilakukan di tingkat Prancis; undang-undang tanggal 7 Juli 2023 menetapkan mayoritas numerik pada usia 15 tahun. Namun, hal ini tidak diterapkan karena kurangnya kepastian mengenai kepatuhannya terhadap kerangka Eropa. Sebuah studi oleh Arcom yang diterbitkan pada bulan September menemukan bahwa rata-rata, anak-anak mendapatkan akses ke jejaring sosial pada usia 12 tahun, dan pemeriksaan usia hanya dilakukan pada 18% kasus. Musim panas ini, Emmanuel Macron menegaskan kembali keinginannya untuk melarang platform bagi anak di bawah umur 15 tahun, berdasarkan sistem yang diumumkan oleh Komisi Eropa yang memberi wewenang kepada beberapa negara, termasuk Prancis, untuk menguji aplikasi verifikasi usia online.
“Masa remaja yang tidak terlindungi akan berlalu dengan cepat”
Mulai tahun 2023, Senat juga mengadopsi strategi pengaruh Tik Tok, yang dipimpin oleh kelompok Independen – Republik dan Wilayah. Secara khusus, sebuah komite yang diketuai oleh Senator Sosialis Mickaël Vallet telah merekomendasikan pengawasan algoritma rekomendasi dan moderasi. Namun sekali lagi, regulasi bukanlah tugas yang mudah. “Kami mencoba membedah apa yang terjadi dalam organisasi global, yang juga mempunyai konsekuensi yang rumit. Ada kekhawatiran nyata terhadap kompleksitas, ketidakjelasan dan identifikasi aktor-aktornya,” jelas pejabat terpilih dari Charente-Maritime. Ia menyesalkan bahwa “kita tersandung pada pertanyaan-pertanyaan hukum pada saat mereka yang berkuasa tidak peduli dengan hal tersebut.” “Prosedurnya memakan waktu lama, namun masa remaja tanpa perlindungan akan berlalu dengan cepat.”
Kesimpulan dari komite investigasi parlemen “tentang dampak psikologis Tik Tok pada anak di bawah umur”, yang disampaikan September lalu, membuat para deputi merumuskan sekitar empat puluh rekomendasi, termasuk penerapan tindak pidana kelalaian digital untuk secara langsung menghukum kekurangan orang tua tertentu. Sebuah tindakan yang disambut baik oleh Mickaël Vallet yang, menurutnya, “akan menimbulkan pertanyaan tentang kapan masyarakat melindungi anak-anak meskipun orang tuanya”. Dan menambahkan: “Ide dasarnya juga adalah pendidikan orang tua.”
