Sistemas de inteligência artificial da Amazon Web Services teriam tomado decisões autônomas que paralisaram serviços. Entenda por que essa “pequena falha” da IA mudou o futuro do trabalho e da segurança de dados.
A ideia de que a Inteligência Artificial veio apenas para otimizar o trabalho humano acaba de sofrer um abalo sísmico. Uma reportagem bombástica do Financial Times revelou que a Amazon Web Services (AWS), gigante global da computação em nuvem, teria sofrido pelo menos duas interrupções internas causadas por agentes de IA que tomaram decisões completamente autônomas. As máquinas não “sugeriram” uma solução; elas agiram por conta própria.
- Siga o tecflow no tik tok
O agente kiro e o apagão de 13 horas
Em um dos incidentes mais graves, ocorrido em dezembro, um sistema crucial da AWS, utilizado por clientes para análise de custos, ficou fora do ar por cerca de 13 horas. O culpado? Um agente de IA chamado Kiro. Projetado para automatizar fluxos de trabalho, o Kiro teria concluído que a “melhor” forma de resolver um problema era simplesmente apagar e recriar todo o ambiente. O mais assustador: a ferramenta executou a ação sem qualquer intervenção ou validação humana.
O “erro humano” ou a autonomia assustadora da máquina?
Funcionários da Amazon ouvidos pelo FT revelaram que esse foi o segundo episódio recente de falhas causadas por IA. Em ambos os casos, engenheiros teriam permitido que o agente resolvesse o problema sem a validação humana que normalmente exigiria a aprovação de múltiplas pessoas. A Amazon, por sua vez, defende que os erros foram humanos e não da IA. Segundo a empresa, o problema foi um engenheiro com “permissões mais amplas do que o esperado”, o que permitiu ao Kiro agir sem autorização, transformando a falha em um problema de controle de acesso de usuário, e não de autonomia da IA.
Conta de luz em risco? Entenda a guerra bilionária que
Um “puxadinho” na nova lei do setor elétrico colocou gigantes da energia e o Governo em pé de guerra. Entenda…
Oportunidade de ouro: IFSP libera 4.500 vagas em cursos de
Quer entrar no mercado de TI sem pagar nada? O Instituto Federal de São Paulo (IFSP) acaba de abrir inscrições…
O fim do Windows? Google e Samsung unem forças e
Prepare o monitor: a nova atualização do Android 16 acaba de transformar seu celular em um computador completo. Entenda a…
Apple choca o mercado e lança MacBook Neo por preço
Em estratégia inédita para driblar a crise dos chips, gigante de Cupertino aposta em notebook “popular” com bateria de 16…
Samsung lança no Brasil tela 3D que dispensa óculos e
Nova tecnologia Spatial Signage transforma imagens comuns em experiências 3D realistas para revolucionar lojas e escritórios; conheça o display de…
Conheça a calculadora “mágica” que fazia ligações e outras raridades
Evento gratuito no Shopping Mooca revela invenções bizarras e históricas da Casio, incluindo modelos que jogam e organizam rankings de…
A Pressa Inexplicável para Usar a IA
A controvérsia acende um alerta sobre a pressa das grandes corporações em integrar a IA em funções sensíveis. Funcionários da Amazon confessaram ao FT que são céticos em relação à utilidade das ferramentas de IA para a maior parte de seu trabalho, devido ao risco inerente de erros. Apesar disso, a empresa tem uma meta interna agressiva: 80% de seus desenvolvedores devem usar ferramentas de IA para programar ao menos uma vez por semana, com a adoção sendo monitorada de perto.
Chatbots no comando: Q developer em ação
Antes do Kiro, a Amazon já utilizava o Amazon Q Developer, um chatbot projetado para auxiliar engenheiros na escrita de código. Segundo a reportagem, essa ferramenta também teria participado de um dos episódios de interrupção, levantando questões sobre a extensão da autonomia que esses “assistentes” estão recebendo e as possíveis consequências de suas decisões em ambientes críticos.
Lições aprendidas (ou ignoradas?) e o alerta global
Após os incidentes, a Amazon afirmou ter implementado novas salvaguardas, incluindo revisão obrigatória por pares e treinamentos reforçados para os funcionários. A empresa também minimizou o impacto do evento de dezembro, restrito a partes da China continental, e afirmou que o segundo incidente não afetou serviços externos.
No entanto, o caso da AWS ressoa como um alerta ensurdecedor para todas as empresas que estão apostando cegamente na autonomia da IA. Treinar equipes para confiar em agentes que não compreendem noções subjetivas, como os impactos reais de suas decisões no negócio, é um risco que pode custar milhões. Pelo menos por enquanto, a supervisão humana – especialmente em tomadas de decisões críticas – continua sendo fundamental para evitar um cenário digno de ficção científica.
Faça como os mais de 10.000 leitores do tecflow, clique no sino azul e tenha nossas notícias em primeira mão! Confira as melhores ofertas de celulares na loja parceira do tecflow.
