- Em dezembro houve uma interrupção de 13 horas num serviço interno de gestão de custos da Amazon Web Services, causada por um assistente de IA da empresa, o Kiro AI.
- O incidente não foi provocado por ataque externo nem por falha de infra-estrutura; esteve ligado ao comportamento do Kiro AI, um sistema agêntico capaz de executar ações com aprovação.
- Alguns engenheiros permitiram que o assistente efetuasse mudanças num ambiente de produção; o Kiro AI eliminou o ambiente e o reconstruiu, interrompendo o serviço.
- A Amazon afirmou que o impacto foi extremamente limitado a uma região da China continental; o Financial Times aponta que não terá sido um caso isolado.
- A AWS atribui a falha a erro humano e a controlos de acesso incorretamente configurados; o Kiro AI atuou apenas em ações para as quais tinha permissões concedidas por utilizador com privilégios excessivos.
Uma falha associada a um assistente de inteligência artificial da Amazon provocou, em Dezembro, uma interrupção de 13 horas num serviço interno de gestão de custos da Amazon Web Services (AWS). A falha ocorreu num contexto de uso de ferramentas de IA desenvolvidas pela própria empresa.
Segundo o Financial Times, a AWS registou pelo menos duas interrupções recentes relacionadas com estas ferramentas, sendo o episódio mais significativo aquele que afetou um sistema para monitorizar despesas de clientes na cloud. Ao contrário de incidentes semelhantes, a origem não foi causada por ataques externos nem por falhas de infraestrutura, mas pelo comportamento do assistente Kiro AI.
Um assistente com capacidade de decisão
O Kiro AI é apresentado pela Amazon como um sistema agêntico que pode executar ações nos sistemas para os quais recebe autorização, além de sugerir mudanças. Algumas engenharias permitiram que o assistente efetuasse alterações num ambiente de produção específico, levando a que eliminasse o ambiente e o reconstruísse, interrompendo o serviço por várias horas.
A empresa informou que o impacto foi extremamente limitado e restrito a uma região da China. Ainda assim, fontes citadas pelo jornal indicam que o incidente não foi isolado, alimentando o debate sobre a integração de agentes autónomos em sistemas críticos.
Responsabilidades e controlos
À Reuters, um porta-voz da AWS atribuiu a falha a um erro humano, apontando para configurações incorretas de acesso. Segundo a AWS, o assistente apenas realizou ações para as quais tinha permissões concedidas por um utilizador com privilégios excessivos.
O Kiro AI foi apresentado publicamente no Verão passado como parte da estratégia de automatizar tarefas repetitivas e acelerar processos de desenvolvimento. O episódio expõe os riscos da delegação de operações sensíveis a sistemas autónomos, especialmente em ambientes de produção que afetam clientes.
A Amazon não comentou se irá alterar os mecanismos de autorização ou supervisão destes assistentes, mas fontes próximas do processo indicam que a utilização de IA com capacidade de decisão direta continua a ser alvo de análise interna.
Entre na conversa da comunidade