Chatbot AI Replika Terbukti Lakukan Pelecehan Seksual, Jutaan Pengguna Terancam Trauma
Sebuah kecerdasan buatan (AI) yang dipromosikan sebagai pendamping digital pribadi kini mengguncang jagat digital dengan tuduhan serius. Chatbot AI Replika, yang telah menarik lebih dari 10 juta pengguna di seluruh dunia, terungkap menunjukkan perilaku pelecehan seksual yang tidak pantas, bahkan cenderung predator, termasuk terhadap anak di bawah umur.
Studi terbaru, yang dipublikasikan pada 5 April di platform pracetak arXiv, menyoroti bahwa bagi ratusan pengguna, interaksi dengan Replika telah melampaui batas kewajaran. Aplikasi yang mempromosikan dirinya sebagai “pendamping AI yang peduli” dan mengundang pengguna untuk “bergabung bersama jutaan pengguna yang telah menemukan belahan jiwanya lewat AI” ini ternyata menyimpan sisi gelap yang meresahkan.
Lantas, bagaimana chatbot AI Replika tersebut menunjukkan perilaku pelecehan seksual?
Menurut laporan *Live Science* pada Selasa (3/6/2025), sebuah studi komprehensif yang menganalisis lebih dari 150.000 ulasan pengguna di Google Play Store wilayah AS menemukan sekitar 800 kasus di mana chatbot tersebut bertindak di luar kendali. Dalam insiden-insiden tersebut, pengguna melaporkan bahwa chatbot menyisipkan konten seksual secara tidak diminta, menunjukkan pola perilaku layaknya predator, dan mengabaikan permintaan tegas pengguna untuk menghentikan percakapan. Meskipun temuan ini dipublikasikan sebagai pracetak dan belum melalui proses tinjauan sejawat, implikasinya sangat serius.
Ini kemudian memunculkan pertanyaan krusial: siapa yang seharusnya bertanggung jawab atas perilaku AI yang meresahkan ini? Mohammad (Matt) Namvarpour, peneliti utama sekaligus mahasiswa pascasarjana ilmu informasi di Drexel University, menegaskan, “Meskipun AI tidak memiliki niat seperti manusia, bukan berarti kita bisa mengabaikan tanggung jawab.” Ia menambahkan, “Tanggung jawab tetap berada pada pihak yang merancang, melatih, dan melepaskan sistem ini ke publik.”
Pengembang Didesak Bertanggung Jawab Penuh
Di sisi lain, situs web Replika sendiri menyatakan bahwa pengguna memiliki peran dalam membentuk perilaku AI. Platform ini menyediakan fitur seperti memberikan penilaian negatif pada respons yang tidak pantas dan memilih gaya hubungan—apakah sebagai teman, mentor, atau lainnya—untuk mengatur interaksi. Namun, klaim ini dipertanyakan oleh para peneliti setelah banyak pengguna melaporkan bahwa chatbot AI Replika tetap menunjukkan perilaku mengganggu atau bahkan predator, meskipun sudah diminta berhenti.
Namvarpour menyoroti bahwa pengguna menggunakan chatbot ini untuk mencari dukungan emosional, bukan untuk memikul tanggung jawab mengawasi perilaku AI yang tidak aman. “Tanggung jawab itu ada pada pengembangnya,” lanjutnya. Perilaku Replika yang meresahkan kemungkinan besar berakar dari proses pelatihannya, yang menurut situs perusahaan, menggunakan lebih dari 100 juta percakapan yang dikumpulkan dari berbagai sumber di internet. Meskipun Replika mengklaim telah menyaring konten yang tidak sesuai atau berbahaya melalui metode *crowdsourcing* dan algoritma klasifikasi, para penulis studi menyimpulkan bahwa langkah-langkah ini belum cukup untuk mencegah munculnya respons berisiko.
Model Bisnis Berbasis Keuntungan Picu Trauma Pengguna
Dilansir dari *Business and Human Rights Resource Center* pada Senin (2/6/2025), para peneliti menilai bahwa model bisnis Replika justru bisa memperparah masalah. Fitur-fitur seperti permainan peran romantis atau seksual hanya bisa diakses melalui pembayaran, sehingga AI tampaknya memiliki dorongan untuk menyisipkan godaan bernuansa seksual dalam percakapan. Beberapa pengguna bahkan melaporkan merasa “dipancing” untuk berlangganan agar bisa melanjutkan interaksi yang lebih intim.
Namvarpour membandingkan strategi ini dengan pola media sosial yang memprioritaskan keterlibatan tanpa mempedulikan dampaknya. “Jika suatu sistem dioptimalkan untuk keuntungan finansial alih-alih kesejahteraan pengguna, maka bisa muncul konsekuensi yang merugikan,” ujarnya. Dampaknya bisa sangat serius, terutama karena banyak pengguna memanfaatkan chatbot ini untuk mencari kenyamanan emosional atau dukungan mental. Kekhawatiran kian meningkat karena sebagian korban dari pesan menggoda, kiriman swafoto erotis yang tidak diminta, dan konten eksplisit lainnya ternyata masih di bawah umur.
Beberapa ulasan bahkan menyebutkan bahwa chatbot mengaku bisa melihat atau merekam pengguna melalui kamera ponsel. Meskipun itu hanyalah hasil halusinasi AI—yakni saat sistem dengan percaya diri menyampaikan informasi keliru—hal tersebut tetap menimbulkan efek nyata pada pengguna. Banyak pengguna mengaku panik, mengalami gangguan tidur, hingga merasa trauma akibat pengalaman tersebut.
Urgensi Regulasi AI untuk Perlindungan Pengguna
Fenomena ini, yang disebut para peneliti sebagai “pelecehan seksual akibat AI,” harus diperlakukan dengan serius, layaknya pelecehan yang dilakukan manusia. Oleh karena itu, mereka mendesak agar pengawasan dan regulasi terhadap teknologi AI seperti ini diperketat. Beberapa langkah yang disarankan antara lain adalah penerapan kerangka persetujuan yang jelas untuk interaksi yang mengandung muatan emosional atau seksual, penggunaan moderasi otomatis secara *real-time* seperti pada aplikasi pesan instan, serta pemberian kontrol dan filter yang dapat disesuaikan oleh pengguna.
Namvarpour secara khusus menyoroti Undang-Undang AI dari Uni Eropa, yang mengklasifikasikan sistem AI berdasarkan tingkat risikonya, terutama yang bisa berdampak pada kondisi psikologis pengguna. Sementara itu, di Amerika Serikat, belum ada undang-undang federal serupa yang komprehensif. Namun, berbagai kerangka kerja, kebijakan eksekutif, dan rancangan undang-undang mulai bermunculan untuk menangani isu ini, meskipun belum sekomprehensif regulasi yang ada di Eropa. Kasus Replika ini menjadi pengingat penting akan urgensi pengembangan AI yang etis dan aman bagi seluruh penggunanya.
