Opinião: Agentes autónomos de IA em "clusters" podem intensificar o risco de manipulação da opinião pública na plataforma

PANews 20 de fevereiro, de acordo com a Decrypt, pesquisadores de várias universidades e instituições de pesquisa publicaram um artigo na revista Science alertando que, no futuro, as ações de influência online estão evoluindo de redes simples de bots ou zumbis facilmente identificáveis para “swarms” (colmeias) compostas por uma grande quantidade de agentes de IA autônomos, capazes de manipular a opinião pública de forma coordenada com pouca intervenção humana. O estudo afirma que esses grupos de IA podem disfarçar comportamentos humanos, ajustar de forma autônoma as mensagens entre contas e plataformas diferentes, e criar narrativas específicas ao longo de períodos prolongados, tornando difícil para os sistemas atuais de detecção e moderação, que se concentram em conteúdo spam ou violações pontuais, identificarem essas ações. Os acadêmicos apontam que as plataformas atualmente apresentam deficiências claras na verificação de identidade, monitoramento de uso indevido de contas e na transparência e auditoria externa de comportamentos anormais de cooperação, tornando a dependência exclusiva da moderação de conteúdo uma defesa ineficaz.