Roblox Perkenalkan AI Sentinel: Alat Deteksi Dini Eksploitasi Anak di Chat Online
Roblox resmi memperkenalkan sistem kecerdasan buatan baru bernama Sentinel, yang diklaim mampu mendeteksi tanda-tanda awal potensi eksploitasi anak di percakapan online. Berbeda dengan filter kata kasar biasa, Sentinel menganalisis pola perilaku dalam chat selama periode waktu tertentu, bukan sekadar menandai kata atau frasa tertentu. Sistem ini memeriksa cuplikan satu menit dari sekitar 6 miliar pesan yang dikirim setiap hari di Roblox, lalu mengevaluasinya dalam konteks yang lebih luas.
Baca juga: OpenAI Rilis GPT-5: Model AI Terbaru Yang Lebih Smart?
AI ini dibangun dengan dua basis data—satu berisi contoh chat aman, dan satu lagi berisi pesan yang melanggar pedoman keselamatan anak. Data ini terus diperbarui untuk meningkatkan akurasi. Jika perilaku pengguna terindikasi berisiko, moderator manusia akan memeriksa riwayat chat lengkap, daftar teman, dan game yang dimainkan. Kasus serius kemudian dapat diteruskan ke penegak hukum dan National Center for Missing and Exploited Children di AS.
Langkah ini diumumkan di tengah sorotan publik dan gugatan hukum yang menimpa Roblox. Salah satunya, gugatan di Iowa menuduh platform tersebut memungkinkan seorang predator dewasa menghubungi, menculik, dan memperdagangkan seorang gadis berusia 13 tahun lintas negara bagian. Gugatan itu menyebut Roblox telah menciptakan “sasaran empuk bagi pedofil” melalui desain gamenya.
Roblox menyatakan telah melarang berbagi informasi pribadi, foto, atau video di chat, serta membatasi pesan langsung untuk pengguna di bawah 13 tahun kecuali dengan izin orang tua. Chat di platform juga tidak terenkripsi end-to-end, sehingga bisa dimonitor untuk pelanggaran keselamatan. Perusahaan mengakui tak ada sistem yang bisa menjamin perlindungan penuh, namun menegaskan AI seperti Sentinel meningkatkan peluang deteksi dini.
VIDEO TERBARU MURDOCKCRUZ :
