AI Butuh Pengawasan Ketat, Ungkap Bos Signal Foundation Whittaker
Wawasan Meredith Whittaker, orang pertama untuk perusahaan Signal Foundation mengungkap hal menarik mengenai AI ketika penggunaanya dipakai untuk urusan seperti data pengguna dan pengawasan.
Baca juga : KTT Inggris Bahas Risiko AI Sebagai Fondasi Untuk Senjata Mematikan
Dalam konteks diskusi yang sedang berlangsung seputar teknologi dan privasi, berikut sejumlah poin penting dari pernyataan Whittaker, diantaranya :
- AI Butuh Pengawasan : Whittaker berpendapat bahwa AI bergantung pada model bisnis berbasis pengawasan, yang mengumpulkan sejumlah besar data untuk melatih model AI secara efektif. Dia berpendapat bahwa AI, khususnya teknologi pengenalan wajah, dapat memperburuk praktik pengawasan yang telah berkembang sejak akhir tahun 90an dengan munculnya “iklan pengawasan.”
- Pengenalan Wajah sebagai Pengawasan: Whittaker menyoroti bagaimana teknologi pengenalan wajah dapat digunakan sebagai bentuk pengawasan. Dia mencontohkan kamera pengenal wajah yang berupaya mengetahui keadaan emosional orang yang lewat, yang bisa berdampak signifikan bagi individu jika digunakan oleh entitas berkuasa seperti perusahaan, pemerintah, dan pengawas perbatasan.
- Dampak terhadap Tenaga Kerja Manusia: Whittaker menunjukkan bahwa sistem pengawasan AI bergantung pada pekerja manusia untuk memverifikasi dan memberi label pada data, seringkali dengan bayaran yang sangat rendah. Para pekerja ini penting untuk pengembangan dan pelatihan model AI. Dia berpendapat bahwa AI, dalam konteks ini, dapat dilihat sebagai “pekerjaan manusia yang rentan terhadap teknologi.”
- Penggunaan AI oleh Signal: Whittaker mengakui bahwa Signal, meskipun sangat fokus pada privasi dan enkripsi, juga menggunakan beberapa teknologi AI. Signal menggunakan model AI untuk memburamkan wajah dalam perangkat pengeditan medianya, yang membantu melindungi privasi pengguna dengan mendeteksi dan memburamkan wajah di foto.
Simpulan Awal
Secara keseluruhan, perspektif Whittaker memunculkan kekhawatiran penting mengenai etika dan privasi terkait penggunaan AI, terutama dalam aplikasi pengawasan. Hal ini menggarisbawahi perlunya diskusi dan peraturan seputar penggunaan AI, pengumpulan data, dan potensi dampaknya terhadap hak dan kebebasan individu.
Comments
VIDEO TERBARU MURDOCKCRUZ :
