Menanggapi masalah chatbot Grok yang menghasilkan materi pelecehan seksual terhadap anak (CSAM) yang sedang berlangsung, setidaknya 37 jaksa agung negara bagian di AS mengambil tindakan.
Perkembangan ini mengikuti pelarangan aplikasi tersebut di dua negara dan investigasi yang sedang berlangsung di Inggris dan UE, namun Apple dan Google sejauh ini mengabaikan permintaan untuk menghapus sementara Grok dan X dari daftar toko aplikasi mereka…
Masalah Grok CSAM
Banyak chatbot AI kontemporer, termasuk Grok xAI, dapat menghasilkan gambar dari perintah teks melalui aplikasi, situs web, atau platform masing-masing seperti X.
Apa yang membedakan Grok adalah moderasi kontennya yang sangat lemah, sehingga memungkinkannya menghasilkan gambar individu yang hampir telanjang tanpa persetujuan, termasuk anak di bawah umur. Diperkirakan 23.000 kejadian pembuatan CSAM terjadi hanya dalam 11 hari.
Akibatnya, aplikasi tersebut telah diblokir di dua negara, dan penyelidikan sedang dilakukan di Inggris dan UE.
Tanggapan dari 37 negara bagian AS
Menurut Kabelsurat terbuka yang ditandatangani oleh sebagian besar negara bagian dan teritori AS mendorong setidaknya 37 negara bagian dan teritori untuk meminta perusahaan tersebut mengambil tindakan.
Minimal 37 jaksa agung dari negara bagian dan teritori AS sedang mengambil tindakan terhadap xAI karena maraknya pembuatan gambar seksual dengan chatbotnya, Grok, awal tahun ini. Selain 35 orang yang menandatangani surat tersebut, jaksa agung California dan Florida mengindikasikan bahwa mereka juga mengambil langkah.
Surat tersebut menguraikan enam tuntutan yang jelas untuk xAI:
- Terapkan langkah-langkah untuk mencegah Grok menghasilkan gambar dewasa yang tidak berdasarkan persetujuan (termasuk gambar yang, meskipun tidak sepenuhnya telanjang atau bersifat seksual, menunjukkan keintiman melalui bikini, pakaian dalam, pakaian terbuka, atau pose yang menjurus) dan materi pelecehan seksual terhadap anak-anak.
- Hapus konten apa pun yang sesuai dengan definisi ini.
- Tangguhkan sementara pengguna yang bertanggung jawab menghasilkan materi berbahaya ini.
- Laporkan pelanggar ini ke pihak yang berwenang.
- Memberi pengguna X kemampuan untuk mengontrol apakah Grok dapat mengubah konten mereka, memungkinkan mereka dengan mudah memblokir akun @Grok agar tidak merespons postingan atau mengubah gambar mereka.
- Memastikan bahwa perlindungan yang diumumkan baru-baru ini benar-benar mengurangi pembuatan citra non-konsensual di platform X dan Grok.
Perlunya Tindakan dari Apple dan Google
Baru-baru ini, tiga senator AS mendesak CEO Apple Tim Cook untuk sementara waktu menarik X dan Grok dari App Store karena “pembuatan konten yang mengerikan.” Namun, perusahaan belum mengambil tindakan.
Semakin jelas bahwa xAI tidak akan menerapkan perubahan signifikan tanpa tekanan dari luar. Cara paling efektif untuk memaksa tindakan ini adalah Apple dan Google menangguhkan sementara Grok dan X dari toko aplikasi mereka.
- Toko Apple Resmi di Amazon
- Aksesori untuk AirTag
- Casing bergaya Mac Pro untuk Mac mini
- Adaptor CarPlay nirkabel
- NordVPN: layanan VPN berorientasi privasi tanpa log dan audit independen terverifikasi
- Casing iPhone asli: iPhone 17 | iPhone 17 Pro dan Pro Max | iPhone Udara
FTC: Kami menggunakan tautan afiliasi yang menghasilkan pendapatan. Lebih detailnya.
➡️ Baca Juga: 3 aplikasi editing video render-nya beda 5x cepat, settingan Premiere Pro lo mungkin salah
➡️ Baca Juga: 7 Aplikasi Optimasi PC yang Sebenarnya Malah Bikin Lambat, Hati-hati
Komentar yang Disorot oleh OrangeCloud
12 Suka
Diperlukan tindakan yang jelas. Semua pengembang aplikasi harus diperlakukan sama. Mengingat pelanggaran kebijakan App Store, mereka tidak boleh mengirimkan pembaruan baru sampai masalah teratasi. Jika tidak ditangani dalam jangka waktu yang wajar, aplikasi harus dihapus dari toko (meskipun masih ada di perangkat pengguna) dengan tindak lanjut izin jika masih belum terselesaikan. Karena beratnya masalah ini, jangka waktunya harus singkat. Jika mereka memperbaiki masalahnya, mereka dapat kembali ke toko. Dari sudut pandang politik, hal ini sederhana saja: “Kami harus menghapus X untuk sementara karena pelanggaran CSAM. X dapat diterima kembali setelah masalah ini diselesaikan.”
Lihat semua komentar