Kejaksaan San Francisco Gugat 16 Situs Web “Vulgar” Berbasis AI

Kantor Kejaksaan Kota San Francisco telah mengambil langkah signifikan dalam memerangi salah satu tren paling gelap yang muncul dari kemajuan pesat pembuatan gambar AI: situs web dan aplikasi yang memperlihatkan gambar “vulgar” wanita dan anak perempuan.

Dalam gugatan yang inovatif, kota tersebut menggugat 16 situs yang paling banyak dikunjungi yang menggunakan AI untuk membuat pornografi deepfake nonkonsensual, dengan tujuan untuk menutupnya untuk selamanya.

Baca juga: Memakai Laptop Sambil Diisi Daya Aman? Berikut Penjelasan & Tipsnya

Gugatan tersebut dipelopori oleh Yvonne Meré, wakil kepala jaksa kota di San Francisco, setelah ia mengetahui tentang penggunaan aplikasi “nudifikasi” yang meresahkan oleh anak laki-laki untuk mengubah foto teman sekelas perempuan mereka yang berpakaian lengkap menjadi gambar eksplisit. Sebagai ibu dari seorang gadis berusia 16 tahun, Meré sangat terganggu oleh potensi bahaya dan menggalang timnya untuk menyusun strategi hukum terhadap situs-situs tersebut.

The New York Times melaporkan bahwa pengaduan tersebut, yang telah menyunting nama-nama situs web tersebut, menuduh bahwa situs-situs tersebut secara kolektif memperoleh 200 juta kunjungan pada paruh pertama tahun 2024 saja. Salah satu situs web tersebut dengan berani mengiklankan layanannya dengan slogan, “Bayangkan membuang-buang waktu mengajaknya berkencan, padahal Anda bisa menggunakan [situs web yang disunting] untuk mendapatkan foto telanjangnya.”

This is a first-of-its-kind lawsuit that alleges the website owners and operators violate CA and federal laws prohibiting deepfake pornography, revenge pornography, and child pornography.

— David Chiu (@DavidChiu) August 15, 2024

Jaksa Kota David Chiu menekankan beratnya masalah tersebut, dengan menyatakan bahwa model AI yang digunakan oleh situs web tersebut dilatih pada gambar pornografi dan pelecehan anak yang sebenarnya untuk membuat deepfake yang realistis. Begitu gambar-gambar ini beredar daring, hampir mustahil untuk melacak asal-usulnya, yang membuat korban rentan terhadap eksploitasi jangka panjang.

Gugatan tersebut mengklaim bahwa situs web tersebut melanggar undang-undang pornografi balas dendam negara bagian dan federal, undang-undang pornografi anak negara bagian dan federal, dan Undang-Undang Persaingan Tidak Sehat California. Tindakan hukum tersebut berupaya meminta pertanggungjawaban platform-platform ini atas kerugian besar yang mereka timbulkan, khususnya bagi perempuan dan anak perempuan.

Masalah yang Lebih Luas dari Deepfake AI

Pemanfaatan AI untuk membuat gambar telanjang tanpa persetujuan bukanlah masalah baru, tetapi telah menjadi lebih luas dan canggih dengan kemajuan dalam AI generatif.

Pada tahun 2020, bot deepfake di Telegram ditemukan telah membuat lebih dari 100.000 foto telanjang palsu wanita dari gambar media sosial. Seiring dengan semakin mudahnya akses teknologi AI, kemampuan untuk membuat deepfake yang sangat realistis semakin meningkat, memperburuk masalah.

Tahun ini, gambar deepfake eksplisit Taylor Swift dibagikan secara daring, yang memicu protes publik dan seruan untuk tindakan legislatif. Sebagai tanggapan, Google melarang iklan untuk pornografi deepfake dan situs yang memperlihatkan adegan telanjang.

Selain itu, undang-undang bipartisan baru, Nurture Originals, Foster Art, and Keep Entertainment Safe Act of 2024 (NO FAKES Act), diperkenalkan. Undang-undang ini akan membuat individu dan perusahaan bertanggung jawab atas pembuatan, penghostingan, atau pembagian penggambaran orang yang dibuat tanpa persetujuan AI.

Gugatan hukum oleh kantor Kejaksaan Kota San Francisco merupakan langkah penting untuk mengatasi penyalahgunaan teknologi AI dalam menciptakan deepfake yang berbahaya. Seiring dengan berlangsungnya pertempuran hukum ini, diharapkan akan menjadi preseden bagi yurisdiksi lain untuk menangani masalah serupa, yang menggarisbawahi kebutuhan mendesak akan solusi komprehensif guna melindungi individu dari bahaya eksploitasi yang dihasilkan AI.

Comments