Baltimore Torna-se a Mais Recente a Processar Elon Musk's X e xAI Sobre Deepfakes do Grok

Resumo

• A queixa cita estimativas de que a Grok gerou até 3 milhões de imagens sexualizadas em poucos dias, incluindo milhares que retratam menores.
• Baltimore busca penalidades civis, reparações para os residentes afetados e ordens judiciais para interromper a conduta alegada.
• Especialistas jurídicos dizem que o caso pode depender de se os tribunais consideram os sistemas de IA como criadores ativos de conteúdo prejudicial, e não apenas ferramentas passivas.

A ação judicial de Baltimore contra a xAI de Elon Musk e seu chatbot Grok pode decidir até onde as cidades podem regular a inteligência artificial na ausência de legislação federal, segundo um especialista. O prefeito e o conselho municipal de Baltimore processaram a X Corp., xAI e a SpaceX em um tribunal de Maryland, alegando que as empresas violaram leis locais de proteção ao consumidor ao projetar e implantar o Grok, um sistema de IA generativa acusado de produzir e espalhar imagens sexualizadas não consensuais, incluindo de menores. A ação afirma que o Grok permite aos usuários “despir” ou “manipular imagens” de pessoas reais com prompts mínimos, expondo os residentes a violações de privacidade e danos psicológicos, segundo uma declaração do escritório de advocacia DiCello Levitt, que representa a cidade junto ao Departamento de Direito de Baltimore.

 “Esses deepfakes, especialmente os que retratam menores, têm consequências traumáticas e duradouras para as vítimas,” disse o prefeito de Baltimore, Brandon M. Scott, na declaração. O caso surge em meio a uma crescente atenção global ao Grok, incluindo investigações nos EUA, UE, França, Reino Unido, Austrália e Irlanda, além de uma ação coletiva federal apresentada na semana passada por três menores do Tennessee, alegando que a ferramenta gerou material de abuso sexual infantil usando suas imagens reais. “Esta ação pode ser vista como uma estratégia de uma cidade para regular a IA na ausência de legislação federal, usando doutrinas de proteção ao consumidor e dano público para trazer as empresas de IA sob sua jurisdição,” disse Ishita Sharma, sócia-gerente da Fathom Legal, ao Decrypt.

“Quanto à responsabilidade, enquanto os prompts dos usuários que geram conteúdo prejudicial serão parte do argumento, o foco jurídico mais forte provavelmente será se o sistema de IA contribuiu materialmente,” afirmou Sharma, acrescentando que, se os tribunais considerarem o Grok “como um criador ativo e não apenas um intermediário passivo,” a responsabilidade recairá mais fortemente sobre a xAI. Por design A ação de Baltimore alega que as empresas “projetaram, comercializaram e implantaram” o Grok, sabendo que ele poderia gerar imagens íntimas não consensuais e material semelhante a abuso sexual infantil, enquanto afirmavam publicamente que tal conteúdo era proibido. A queixa cita estimativas de que o Grok gerou entre 1,8 milhão e 3 milhões de imagens sexualizadas em apenas dias, entre 29 de dezembro de 2025 e 8 de janeiro de 2026, incluindo cerca de 23.000 que retratam crianças, segundo o Center for Countering Digital Hate e uma análise do New York Times. Baltimore alega que o aumento foi parcialmente desencadeado após Elon Musk amplificar a função de edição de imagens do Grok, respondendo “Perfeito” a uma imagem de biquíni dele gerada pela ferramenta, com a produção de imagens subindo de aproximadamente 300.000 nos nove dias antes de sua postagem para quase 600.000 por dia no X. “O X agora é um dos maiores distribuidores de NCII e CSAM,” afirma a ação, citando as próprias políticas da plataforma dos réus que proíbem tal conteúdo como evidência de representação enganosa. “Evidências de salvaguardas atrasadas ou inação diante de riscos conhecidos fortaleceriam alegações de negligência ou imprudência,” disse Sharma, acrescentando que o arquivamento da ação parece improvável, sendo a resolução por acordo o desfecho mais provável, embora o caso ainda possa resultar em “uma decisão que estabeleça um precedente sobre a responsabilidade da IA.” A cidade busca penalidades civis, medidas cautelares para interromper a conduta ilegal, reparações para os residentes afetados e a devolução de lucros ilícitos. Decrypt entrou em contato com Musk via xAI e SpaceX para comentários.