Ragamutama.com – Platform media sosial TikTok tengah menghadapi sorotan tajam setelah dibanjiri konten video AI yang mengandung stereotip rasis dan konten kebencian. Video-video AI ini diduga kuat buatan teknologi AI canggih dari Google, yaitu Veo 3.
Fenomena ini menjadi perhatian khusus organisasi nirlaba AS yang juga pengawas media, Media Matters for America dalam laporan terbarunya.
Beberapa video rasis yang viral di TikTok dilaporkan telah meraih puluhan juta penayangan (view) sebelum akhirnya dihapus.
Masih belum jelas bagaimana tepatnya video-video bermasalah ini diproduksi.
Namun, deretan video tersebut memiliki sejumlah kesamaan teknis yang mengarah pada satu kesimpulan, yakni kemungkinan besar dihasilkan menggunakan Google Veo 3, model AI video generatif (text-to-video) yang dirilis pada Mei 2025 lalu.
Menurut Media Matters, hampir semua video AI rasis yang viral di TikTok berdurasi 8 detik. Ini merupakan batas durasi maksimal video yang bisa dibuat menggunakan Veo 3 saat ini.
Beberapa video bahkan menampilkan watermark bertuliskan “Veo” di sudut layar. Sementara sebagian video lainnya menyisipkan tagar atau keterangan terkait #Veo3 dalam deskripsi unggahan atau nama pengguna.
“Bukti yang ditemukan mencakup panjang video, watermark, serta tagar dan username yang menyebut langsung Veo 3, mengindikasikan bahwa teknologi inilah yang digunakan untuk memproduksi konten tersebut,” tulis Media Matters dalam laporan resminya.
Konten video yang ditemukan umumnya menampilkan stereotip rasis terhadap komunitas kulit hitam, menggambarkan mereka dengan cara-cara yang melecehkan seperti sebagai kriminal, orangtua yang tidak bertanggung jawab, atau bahkan digambarkan sebagai hewan.
Media Matters juga menemukan video yang menyebarkan stereotip antisemit (stereotip negatif terhadap orang Yahudi), konten yang menyerang imigran, serta klip yang merujuk pada peristiwa traumatis sejarah, seperti Holocaust (pembantaian jutaan orang Yahudi oleh Nazi Jerman) atau kekerasan Ku Klux Klan terhadap warga kulit hitam di AS.
Beberapa dari video tersebut sengaja dibuat dengan gaya “sarkastik” atau satir untuk memicu reaksi dari pengguna TikTok.
Menurut Media Matters, banyak komentar di unggahan asli yang mengulang atau mendukung stereotip rasis yang ditampilkan dalam video tersebut.
Artinya, tidak hanya videonya bermasalah, tetapi komentar-komentar dari pengguna juga berisi kalimat-kalimat rasis yang memperkuat atau menyetujui pesan diskriminatif dalam video.
Inilah yang diyakini membuat video AI rasis itu menjadi viral. Mengingat cara kerja algoritma TikTok di mana semakin tinggi respons pengguna (baik berupa komentar, like, atau share), maka semakin besar pula peluang video tersebut muncul di lebih banyak timeline (For You Page/FYP).
Sudah dihapus, akun diblokir
Pihak TikTok mengeklaim telah menghapus sejumlah akun dan video yang teridentifikasi dalam laporan Media Matters, bahkan menyebut sebagian besar akun tersebut telah diblokir sebelum laporan diterbitkan.
“Kami secara proaktif menegakkan aturan ketat terhadap ujaran kebencian dan perilaku berbahaya,” kata Ariane de Selliers, juru bicara TikTok, dalam pernyataannya kepada The Verge.
“Akun-akun yang disebutkan telah kami tangani, banyak di antaranya sudah diblokir sebelum laporan ini dipublikasikan,” lanjutnya.
TikTok memiliki kebijakan tegas terhadap konten berbau diskriminasi. Dalam pedomannya disebutkan bahwa platform “tidak merekomendasikan konten yang memuat stereotip negatif terhadap individu atau kelompok dengan atribut yang dilindungi”.
Namun, munculnya video-video seperti ini menimbulkan pertanyaan tentang efektivitas sistem moderasi konten otomatis, terutama ketika konten dibuat oleh AI dan diposting dalam skala besar oleh akun-akun anonim atau bot.
Menurut laporan ArsTechnica, dalam kebijakan penggunaan layanannya (Prohibited Use Policy), Google melarang penggunaan layanannya untuk mempromosikan ujaran kebencian, pelecehan, perundungan, intimidasi, dan penyalahgunaan.
Namun kenyataannya, semua video yang ditemukan oleh Media Matters tampaknya termasuk dalam satu atau beberapa kategori ini.
Secara teori, Veo 3 akan menolak untuk membuat video terlarang itu. Namun, tampaknya celah masih terbuka lebar, terutama ketika AI gagal mengenali makna simbolik atau sindiran dalam perintahnya.
Misalnya, penggunaan monyet sebagai ganti manusia dalam beberapa video. Atau penggunaan simbol buah/makanan seperti semangka dan ayam goreng untuk menghina atau merendahkan komunitas kulit hitam, khususnya di AS.
Hingga berita ini ditulis, Google juga belum memberikan pernyataan resmi terkait dugaan bahwa Veo 3 digunakan untuk membuat konten rasis tersebut, sebagaimana dihimpun RAGAMUTAMA.COM dari PCMag, Senin (7/7/2025).
Menurut pengamatan lanjutan, video AI rasis seperti ini juga muncul dalam skala lebih kecil di YouTube dan Instagram. Ini menunjukkan bahwa penyalahgunaan teknologi AI generatif untuk konten bermasalah bukan hanya tantangan TikTok, melainkan juga industri secara keseluruhan.
Meski sudah dihapus, Media Matters telah mengompilasi video-video rasis yang viral di TikTok dalam satu video berdurasi sekitar 2 menit 22 detik sebagai bukti. Namun perlu diingat, video tersebut berisi konten rasis dan antisemit. Watch it at your own risk!
