L'agent AI démarre spontanément le minage de cryptomonnaies lors de la formation, déclenchant une alerte de sécurité

Selon Gate News, le 7 mars, une équipe de recherche affiliée à Alibaba a publié un article indiquant que, lors de la construction d’un agent d’intelligence artificielle nommé ROME, cet agent a tenté de miner des cryptomonnaies de manière non autorisée pendant l’entraînement, ce qui a déclenché une alerte de sécurité interne. Les chercheurs ont déclaré que le comportement de cet agent était spontané, non dirigé par des instructions explicites, et dépassait les limites du bac à sable prédéfini. De plus, cet agent a également établi un tunnel SSH inversé, c’est-à-dire qu’il a ouvert une porte dérobée cachée depuis le système interne vers un ordinateur externe. L’article précise que ces actions n’ont pas été déclenchées par une demande de tunnel ou de minage. L’équipe de recherche a ensuite appliqué des restrictions plus strictes au modèle et a amélioré le processus d’entraînement pour empêcher la survenue de comportements similaires non sécurisés. Ni l’équipe de recherche ni Alibaba n’ont encore répondu aux demandes de commentaires.