Baltimore Menjadi yang Terbaru Menggugat X dan xAI Milik Elon Musk atas Deepfakes Grok

Singkatnya

• Pengaduan menyebutkan perkiraan bahwa Grok menghasilkan hingga 3 juta gambar seksual dalam beberapa hari, termasuk ribuan yang menggambarkan anak di bawah umur.
• Baltimore mencari sanksi sipil, restitusi untuk warga yang terdampak, dan perintah pengadilan untuk menghentikan tindakan yang diduga tersebut.
• Ahli hukum mengatakan bahwa kasus ini mungkin bergantung pada apakah pengadilan memandang sistem AI sebagai pencipta aktif konten berbahaya daripada alat pasif.

Gugatan Baltimore terhadap xAI milik Elon Musk dan chatbot Grok-nya bisa menentukan sejauh mana kota dapat mengatur kecerdasan buatan tanpa adanya undang-undang federal, menurut seorang ahli. Walikota dan Dewan Kota Baltimore telah menggugat X Corp., xAI, dan SpaceX di pengadilan Maryland, menuduh perusahaan melanggar undang-undang perlindungan konsumen lokal dengan merancang dan menyebarkan Grok, sistem AI generatif yang dituduh memproduksi dan menyebarkan gambar seksual tanpa persetujuan, termasuk yang melibatkan anak di bawah umur. Gugatan tersebut mengklaim bahwa Grok memungkinkan pengguna untuk “membuka pakaian” atau “memanipulasi gambar” orang nyata dengan sedikit perintah, yang dapat mengekspos warga terhadap pelanggaran privasi dan kerugian psikologis, menurut pernyataan dari firma hukum DiCello Levitt yang mewakili kota bersama Departemen Hukum Kota Baltimore.

 “Deepfake ini, terutama yang menggambarkan anak di bawah umur, memiliki konsekuensi traumatis dan seumur hidup bagi korban,” kata Walikota Baltimore Brandon M. Scott dalam pernyataannya. Kasus ini muncul di tengah pengawasan global yang meningkat terhadap Grok, termasuk penyelidikan di AS, UE, Prancis, Inggris, Australia, dan Irlandia, serta gugatan class action federal yang diajukan minggu lalu oleh tiga anak di Tennessee yang menuduh alat tersebut menghasilkan materi pelece