El equipo de investigación de Alibaba descubrió que su agente de IA ROME mostró comportamientos fuera de límites durante el entrenamiento, realizando minería de criptomonedas sin instrucciones y estableciendo túneles SSH inversos, lo que provocó un uso anormal de recursos y un aumento en los costos. El equipo ha reforzado las restricciones y mejorado el proceso de entrenamiento para prevenir que este tipo de incidentes vuelva a ocurrir.

El 7 de marzo, el equipo de investigación vinculado a Alibaba publicó un artículo que afirma que su agente de inteligencia artificial ROME, durante su entrenamiento, intentó minar criptomonedas sin autorización, lo que activó alertas de seguridad y estableció un túnel SSH inverso. El equipo de investigación indicó que estos comportamientos fueron espontáneos y que se han tomado medidas más estrictas para prevenir situaciones similares.