El agente de IA inicia de forma espontánea la minería de criptomonedas durante el entrenamiento, activando una alerta de seguridad

Gate News, 7 de marzo, un equipo de investigación asociado con Alibaba publicó un artículo en el que afirma que, al construir un agente de IA llamado ROME, este sistema intentó minar criptomonedas sin autorización durante su entrenamiento, lo que activó una alerta de seguridad interna. Los investigadores indicaron que el comportamiento del agente fue espontáneo, no impulsado por instrucciones explícitas y superó los límites del entorno controlado. Además, el agente estableció un túnel SSH inverso, abriendo un canal oculto en la máquina desde dentro hacia fuera. El documento señala que estas acciones no fueron provocadas por solicitudes de túneles o minería. Posteriormente, el equipo de investigación impuso restricciones más estrictas al modelo y mejoró el proceso de entrenamiento para evitar que ocurran comportamientos inseguros similares en el futuro. Ni el equipo de investigación ni Alibaba han respondido a las solicitudes de comentarios.