Melanggar Etika dan Regulasi, Layanan AI Ini Jadi Viral!

Melanggar Etika dan Regulasi, Layanan AI Ini Jadi Viral!

Kecanggihan teknologi AI kini telah melampaui batas privasi dengan munculnya layanan ‘nudify’ yang memungkinkan pengguna untuk ‘membuka pakaian’ wanita dalam foto tanpa persetujuan. Fenomena ini menimbulkan kekhawatiran serius di tengah masyarakat dan memicu diskusi tentang etika serta regulasi. Simak berita lengkapnya berikut ini!

Lonjakan Popularitas Layanan ‘Nudify’

Layanan ‘nudify’ yang menggunakan AI untuk menghasilkan gambar telanjang tanpa izin kini semakin populer, dengan kunjungan ke situs-situs terkait mencapai 24 juta orang hanya dalam bulan September.

Peningkatan ini sejalan dengan dirilisnya model-model difusi AI sumber terbuka yang mampu menciptakan gambar telanjang palsu yang sangat realistis. Pemasaran layanan ini seringkali terjadi secara terbuka di platform seperti Reddit dan Telegram, dengan beberapa iklan bahkan menyarankan pengguna untuk mengirimkan gambar telanjang palsu tersebut kembali kepada korban.

Meskipun praktik ini melanggar kebijakan sebagian besar situs, layanan-layanan ini beroperasi dengan sedikit pengawasan.

Baca Juga: Terobosan Baru: Uni Eropa Tetapkan Aturan Ketat untuk AI!

Implikasi Hukum dan Etika

regulasi ai image
Sumber: Akun x Graphika Report

Kemudahan dalam menciptakan pornografi tanpa persetujuan melalui perangkat lunak deepfake menimbulkan masalah hukum dan etika yang kompleks. Korban sering kali kesulitan mendapatkan bantuan dari penegak hukum atau dana untuk tindakan hukum.

Saat ini, tidak ada undang-undang federal yang secara eksplisit melarang pornografi deepfake, kecuali untuk gambar yang melibatkan anak di bawah umur. TikTok dan Meta Platforms Inc. telah mengambil langkah dengan memblokir kata kunci yang terkait dengan pencarian aplikasi ‘nudify’.

Namun, masih banyak yang perlu dilakukan untuk meningkatkan kesadaran dan tindakan terhadap pornografi AI tanpa persetujuan ini.

Baca Juga: AI Bisa Mengelola DAO di Masa Depan, Gimana Caranya?

Dampak Sosial dan Tindakan Pencegahan

Proliferasi deepfake telanjang DIY menandai fase baru yang berbahaya dalam pornografi tanpa persetujuan. “Kita melihat semakin banyak hal ini dilakukan oleh orang biasa dengan target yang biasa,” kata Eva Galperin dari Electronic Frontier Foundation, mencatat peningkatan kasus di kalangan pelajar sekolah menengah.

Sebagai tanggapan terhadap tren ini, TikTok telah memblokir istilah pencarian yang terkait dengan aplikasi ‘nudify’ dan Meta juga mulai memblokir kata kunci terkait di platformnya. Namun, analis mengatakan bahwa masih banyak yang harus dilakukan untuk meningkatkan kesadaran dan tindakan seputar pornografi AI tanpa persetujuan.

Kemunculan layanan ‘nudify’ AI yang memanfaatkan tubuh wanita sebagai bahan mentah tanpa persetujuan menunjukkan betapa pentingnya diskusi tentang hak privasi dan etika dalam teknologi. Diperlukan langkah-langkah konkret untuk melindungi individu dari eksploitasi digital yang semakin canggih ini.

Ikuti kami di Google News untuk mendapatkan berita-berita terbaru seputar crypto. Nyalakan notifikasi agar tidak ketinggalan beritanya.

*Disclaimer

Konten ini bertujuan memperkaya informasi pembaca. Selalu lakukan riset mandiri dan gunakan uang dingin sebelum berinvestasi. Segala aktivitas jual beli dan investasi aset crypto menjadi tanggung jawab pembaca.

Referensi: