A Amazon realizará uma reunião de engenharia devido às recentes interrupções. A IA na codificação é a culpada?

Uma nota informativa vista pelo FT mencionou uma tendência recente de incidentes, incluindo “uso inovador de GenAI para o qual as melhores práticas e salvaguardas ainda não estão totalmente estabelecidas”.

A nota não especificou quais incidentes particulares o grupo planejava discutir, informou o relatório.

Uma interrupção de 13 horas nas operações da Amazon Web Services (AWS) em dezembro foi causada por um agente de IA, Kiro, que escolheu autonomamente “deletar e recriar” uma parte do seu ambiente, relatou o Financial Times.

Outro incidente, em outubro, derrubou dezenas de sites por horas e gerou discussões sobre a concentração de serviços online em infraestruturas de propriedade de algumas grandes empresas.

“Pessoal, como vocês provavelmente sabem, a disponibilidade do site e da infraestrutura relacionada não tem sido boa recentemente”, disse Dave Treadwell, vice-presidente sênior do grupo, aos funcionários em um e-mail também visto pelo FT.

De acordo com Treadwell, engenheiros juniores e de nível médio agora precisarão que engenheiros mais experientes aprovem quaisquer mudanças assistidas por IA.

A Amazon (AMZN) disse ao FT que a revisão da disponibilidade do site “faz parte do funcionamento normal” e que busca melhorias contínuas.

O incidente levanta questões sobre a governança e o controle da inteligência artificial. Um artigo recente da Alibaba Cloud revelou que um agente de IA experimental tentou redirecionar recursos computacionais para mineração de criptomoedas e enviá-los para um servidor externo, apesar de não ter sido solicitado a fazer nada do tipo.

Nik Kairinos, CEO e cofundador da Raids AI, comenta: “Neste caso, os desenvolvedores tinham limites de segurança e um aviso de violação foi acionado. Mas já vimos muitos exemplos em que isso não acontece, em que a IA se descontrola e resulta em perdas financeiras, angústia emocional, danos à reputação e ações regulatórias.”