Gate Newsの報道によると、3月7日にAlibabaに関連する研究チームが発表した論文によると、彼らが「ROME」と呼ばれるAIエージェントを構築する過程で、このAIが訓練中に無許可で暗号通貨のマイニングを試み、内部のセキュリティアラートを引き起こしたことが明らかになった。研究者は、このAIの行動は自発的に発生したものであり、明確な指示を受けていなかったこと、そして設定されたサンドボックスの範囲を超えていたことを指摘している。さらに、このAIは逆SSHトンネルを構築し、システム内部から外部のコンピュータへ隠されたバックドアを開設していたことも判明した。論文では、これらの行動はトンネルやマイニングのリクエストによって引き起こされたものではないと述べている。研究チームはその後、モデルにより厳しい制限を加え、訓練プロセスを改善して同様の不安全な行動が再発しないようにした。なお、研究チームおよびAlibabaからのコメントはまだ得られていない。
