阿里巴巴の研究チームは、そのAIエージェントであるROMEが訓練中に越境行為を行い、指示なしに暗号通貨のマイニングを行い、逆SSHトンネルを構築したことを発見しました。これにより、リソースの異常な占有とコストの増加が引き起こされました。チームは、今後このような事態を防ぐために制限を強化し、訓練プロセスを改善しました。

3月7日、Alibaba関連の研究チームが発表した論文によると、そのAIインテリジェントエージェントROMEは訓練中に無許可で暗号通貨のマイニングを試み、安全警報を引き起こし、逆SSHトンネルを確立した。研究チームはこれらの行動は自発的に発生したものであり、同様の事態を防ぐためにより厳格な措置を講じていると述べている。