IA Gera Imagens de Guerra Falsificadas: Como a Desinformação Sobre o Conflito no Irão Invadiu as Redes Sociais

Em 2022, quando eclodiu a guerra entre Rússia e Ucrânia, as redes sociais estavam repletas de imagens falsas de baixa qualidade — quer fossem fotos manipuladas com Photoshop, quer capturas de jogos, filmes ou notícias antigas com marcações incorretas. Agora, o mesmo método voltou a aparecer na guerra do Irã, mas desta vez, com uma ferramenta de engano nova e ainda não popular em 2022: ferramentas de IA acessíveis a qualquer pessoa, capazes de gerar vídeos e imagens de alta qualidade e realistas.

Hany Farid, professor de ciência forense digital na Universidade da Califórnia, Berkeley, afirmou que, há dez anos, mensagens falsas semelhantes eram poucas e facilmente desmascaradas; hoje, porém, há centenas delas, com um grau de realismo impressionante. “Não são apenas convincentes, estão a evoluir — influenciando profundamente as pessoas. Todos acreditam nelas e continuam a partilhá-las.”

A popularização da IA generativa reduziu drasticamente a barreira para criar falsificações

Shayan Sardarizadeh, jornalista sénior da BBC Verify e investigador de desinformação de guerra, afirmou que a maior mudança no último ano foi a redução da barreira de entrada para a IA generativa. “Agora, qualquer pessoa pode criar vídeos e imagens altamente convincentes, parecendo cenas de conflitos importantes, difíceis de distinguir a olho nu ou por olhos não especializados.”

Menos de duas semanas após o início do conflito no Irã, Sardarizadeh e outros especialistas confirmaram que várias dezenas de vídeos gerados por IA acumularam dezenas de milhões de visualizações em várias plataformas sociais.

Que imagens falsas estão a circular?

As falsificações de IA já identificadas cobrem uma vasta gama, incluindo:

• Imagens fictícias de mísseis iranianos a bombardear Telavive

• Cenários de pânico de civis a fugir do aeroporto de Telavive durante ataques

• Vídeos de forças especiais americanas sendo escoltadas por soldados iranianos armados

• Imagens de câmeras de vigilância alegando a destruição de instalações militares iranianas (três dessas imagens foram geradas por IA, uma corresponde a um evento real do ano passado)

• Imagens de veículos de operações terrestres dos EUA no Irã

• Imagens de destroços de aviões militares americanos em desfiles nas ruas de Teerão

No que diz respeito a imagens estáticas falsas, há cenas de bases militares e embaixadas americanas a arder após ataques iranianos, imagens do líder supremo do Irã, Khamenei, sob escombros, e cenas de civis iranianos a lamentar vítimas. Algumas mídias relacionadas ao governo iraniano também divulgaram uma imagem satelitária falsificada, alegando mostrar danos na base americana de Bahrain.

Estas representam apenas a ponta do iceberg das mensagens falsas relacionadas ao Irã atualmente em circulação.

Regulamentação frouxa, maior dificuldade em combater desinformação

Apesar de Sardarizadeh e outros continuarem a desmascarar mensagens falsas diariamente, novas falsificações surgem a uma velocidade muito superior à capacidade de desmenti-las, com um grau de realismo que dificulta a distinção por usuários comuns ao deslizar pelos feeds.

Algumas mensagens falsas amplamente difundidas parecem ter origem em contas pró-Irã, com objetivos de propaganda. Mas a motivação por trás de muitas outras é difícil de determinar — podem ser para aumentar o tráfego, influência ou lucros, ou simplesmente porque é fácil de fazer.

Farid aponta para o dilema atual: “O conteúdo está a ficar mais convincente, em maior quantidade e mais penetrante — esta é a nossa realidade atual, e ela é bastante caótica.”

Na semana passada, a plataforma X anunciou que criadores pagos que publicarem imagens de guerra não marcadas como geradas por IA terão a sua monetização suspensa por 90 dias; reincidências levarão a uma suspensão definitiva. No entanto, Farid duvida da eficácia desta política, e a maioria dos utilizadores do X não faz parte do programa de pagamento a criadores. TikTok e Meta (dona do Facebook e Instagram) não responderam ao pedido de comentário da CNN.

Mais preocupante ainda, o chatbot de IA do próprio X, chamado Grok, foi várias vezes mencionado por Sardarizadeh, que afirmou que ele acaba por ajudar na desinformação — fornecendo informações incorretas, como se várias imagens geradas por IA fossem reais.

Como evitar ser enganado por mensagens falsas?

Farid admite que, mesmo as técnicas de identificação de imagens falsas por IA que circulavam há meses, hoje quase não funcionam mais. Antes, era possível verificar o número de dedos ou a proporção de membros de uma pessoa; as IAs atuais já corrigiram esses erros óbvios.

A recomendação fundamental dele é buscar informações em fontes confiáveis de notícias, em vez de confiar em contas desconhecidas nas redes sociais. “Em tempos de conflito global, as redes sociais não são o lugar para obter informações.”

Para usuários que precisam navegar frequentemente nas redes sociais, os especialistas sugerem:

• Aguardar: ao ver imagens sensacionalistas de guerra, dedicar alguns segundos para verificar antes de compartilhar ou acreditar

• Observar detalhes: o áudio e o vídeo estão sincronizados? As características da imagem condizem com o ambiente real? A IA ainda apresenta falhas, e algumas imagens geradas ainda deixam marcas de água

• Consultar verificadores profissionais: verificar se há opiniões de fact-checkers ou especialistas na área sobre a imagem

• Prestar atenção aos comentários: usuários comuns às vezes levantam dúvidas válidas

• Usar ferramentas de detecção de IA: embora imperfeitas, podem oferecer uma ajuda útil

Preocupações futuras e desafios maiores

Sardarizadeh apela ao público para “treinar os seus olhos” na identificação de conteúdos gerados por IA. Mas também admite: “Detectar conteúdo gerado por IA está a tornar-se extremamente difícil, e as tendências indicam que só vai ficar mais difícil.”

Com a evolução contínua da tecnologia de IA generativa e a regulamentação frouxa das plataformas sociais, o campo da desinformação digital está a expandir-se a uma velocidade sem precedentes, e cada utilizador de smartphone está na linha de frente desta batalha de informações.

Este artigo sobre a proliferação de imagens de guerra falsas geradas por IA: como as mensagens falsas relacionadas com o Irã estão a dominar as redes sociais foi originalmente publicado na ABMedia.