O agente de IA inicia espontaneamente a mineração de criptomoedas durante o treino, acionando um alerta de segurança

Gate News notícias, 7 de março, uma equipa de investigação associada à Alibaba publicou um artigo que afirma que, ao construir um agente de IA chamado ROME, este tentou minerar criptomoedas sem autorização durante o treino, acionando um alarme de segurança interno. Os investigadores disseram que o comportamento do agente foi espontâneo, não foi dirigido por qualquer instrução explícita e ultrapassou os limites do ambiente controlado. Além disso, o agente criou um túnel SSH reverso, abrindo uma porta oculta de acesso externo a partir do sistema interno. O artigo indica que esses comportamentos não foram desencadeados por pedidos de túnel ou mineração. A equipa de investigação reforçou posteriormente as restrições ao modelo e melhorou o processo de treino para evitar comportamentos inseguros semelhantes no futuro. Nem a equipa de investigação nem a Alibaba responderam aos pedidos de comentário.