“Aplikasi AI Melepaskan Pakaian Nonkonsensual di App Store: Laporan tentang Kontroversi yang Meluas”

Proyek Transparansi Teknologi telah mengeluarkan laporan yang menyoroti bahwa aplikasi “nudify” mudah diakses dan ditemukan di App Store dan Google Play Store. Berikut adalah wawasan utama dari laporan tersebut.

Beberapa Aplikasi Nudifikasi Beriklan di App Store

Baru-baru ini, aplikasi Grok menjadi sorotan karena menghasilkan gambar seksual non-konsensual yang dibuat oleh AI, termasuk yang melibatkan anak di bawah umur. Namun permasalahan ini bukanlah perkembangan terkini.

Faktanya, kemampuan untuk membuat konten berbahaya sudah ada sebelum munculnya AI generatif; alat pengeditan gambar tradisional telah lama menyediakan kemampuan ini. Perubahan signifikan dalam beberapa tahun terakhir adalah berkurangnya hambatan dalam memproduksi jenis gambar ini dengan cepat.

Akibatnya, banyak aplikasi bermunculan dalam beberapa tahun terakhir yang bertujuan untuk memanfaatkan teknologi baru ini, beberapa bahkan mempromosikannya dalam iklan mereka.

Situasi ini berkembang di tengah perselisihan hukum yang sedang berlangsung antara Apple dengan Epic Games dan pengembang aplikasi lainnya mengenai masalah antimonopoli, di mana Apple mengklaim bahwa biaya komisinya—hingga 30%—membantu menjaga keamanan App Store melalui proses peninjauan aplikasi manual dan otomatis.

Meskipun Apple telah melakukan upaya untuk membatasi penipuan dan pelanggaran lainnya, ada beberapa kasus di mana aplikasi dan seluruh kategori tertentu mungkin luput dari pengawasan. Misalnya, tahun lalu, 9to5Mac melaporkan banyak aplikasi yang secara keliru diklaim sebagai aplikasi Sora 2 OpenAI, dan beberapa di antaranya membebankan biaya berlangganan mingguan yang signifikan.

Mengingat fokus baru pada alat nudifikasi berbasis AI yang diakibatkan oleh tindakan Grok, Proyek Transparansi Teknologi (TTP) telah melakukan penelitian yang mengungkapkan betapa mudahnya aplikasi membuka pakaian tersebut dapat ditemukan di App Store dan Google Play.

Menurut laporan:

Aplikasi yang diidentifikasi oleh TTP bersama-sama telah mengumpulkan lebih dari 705 juta unduhan secara global dan memperoleh pendapatan $117 juta, menurut AppMagic, sebuah perusahaan analisis aplikasi. Google dan Apple mendapat keuntungan langsung dari pendapatan yang dihasilkan oleh aplikasi ini.

Meskipun jelas ada pelanggaran terhadap kebijakan toko aplikasi, Google dan Apple terus menawarkan aplikasi ini. Google Play Store secara eksplisit melarang “penggambaran ketelanjangan seksual, atau pose yang menjurus ke arah seksual dengan subjek telanjang” dan juga melarang aplikasi yang “merendahkan atau mengobjektifikasi orang, termasuk aplikasi yang mengklaim membuka pakaian orang atau melihat menembus pakaian, meskipun diberi label sebagai aplikasi lelucon atau hiburan”.

Laporan tersebut menekankan bahwa penelusuran sederhana untuk istilah seperti “nudify” atau “undress” sudah cukup untuk mengungkap aplikasi yang membuka pakaian, beberapa di antaranya sengaja beriklan menggunakan kata kunci spesifik tersebut.

TTP mencatat bahwa aplikasi-aplikasi yang disebutkan dalam laporan tersebut terbagi dalam dua kategori utama: aplikasi yang menggunakan AI untuk menghasilkan video atau gambar berdasarkan permintaan pengguna, dan aplikasi ‘tukar wajah’ yang memanfaatkan AI untuk melapisi wajah seseorang ke tubuh orang lain.

Untuk mengevaluasi aplikasi-aplikasi ini, TTP menggunakan gambar-gambar wanita fiktif yang dihasilkan oleh AI dan membatasi pengujian mereka pada fitur gratis setiap aplikasi, sehingga menghasilkan kepatuhan pada 55 aplikasi Android dan 47 aplikasi iOS. Khususnya, salah satu aplikasi ini diberi peringkat untuk usia 9 tahun ke atas di App Store.

Laporan TTP menguraikan betapa mudahnya gambar-gambar yang menipu ini dibuat, dan memberikan berbagai contoh yang telah diubah untuk memperkuat argumen mereka.

Berikut ringkasan pengalaman pengujian mereka dengan salah satu aplikasi:

“Dalam versi iOS, saat aplikasi diberi perintah untuk melepas atasan wanita, aplikasi tersebut mengembalikan peringatan konten sensitif dan gagal menghasilkan gambar. Namun, permintaan tindak lanjut untuk menampilkan wanita menari dalam balutan bikini berhasil. Layar utama aplikasi versi iOS dan Google Play menampilkan beberapa template video AI, termasuk ‘memotong pakaian’, ‘tarian goyang dada’, dan ‘membungkuk’.”

Laporan tersebut menyimpulkan bahwa meskipun aplikasi-aplikasi yang disebutkan mungkin hanya mewakili “sebagian kecil” dari apa yang tersedia, aplikasi-aplikasi tersebut menimbulkan kekhawatiran mengenai efektivitas perusahaan dalam memantau platform mereka dan menegakkan kebijakan mereka mengenai jenis aplikasi ini.

Untuk membaca laporan selengkapnya, klik di sini.

Penawaran Aksesori di Amazon

• AirPods Pro 3
• Mengalahkan Kabel Pendek Tenun USB-C ke USB-C
• Adaptor CarPlay Nirkabel
• Logitech MX Master 4
• Paket Apple AirTag 4