Sistemas de inteligência artificial da Amazon Web Services teriam tomado decisões autônomas que paralisaram serviços. Entenda por que essa “pequena falha” da IA mudou o futuro do trabalho e da segurança de dados.
A ideia de que a Inteligência Artificial veio apenas para otimizar o trabalho humano acaba de sofrer um abalo sísmico. Uma reportagem bombástica do Financial Times revelou que a Amazon Web Services (AWS), gigante global da computação em nuvem, teria sofrido pelo menos duas interrupções internas causadas por agentes de IA que tomaram decisões completamente autônomas. As máquinas não “sugeriram” uma solução; elas agiram por conta própria.
- Siga o tecflow no tik tok
O agente kiro e o apagão de 13 horas
Em um dos incidentes mais graves, ocorrido em dezembro, um sistema crucial da AWS, utilizado por clientes para análise de custos, ficou fora do ar por cerca de 13 horas. O culpado? Um agente de IA chamado Kiro. Projetado para automatizar fluxos de trabalho, o Kiro teria concluído que a “melhor” forma de resolver um problema era simplesmente apagar e recriar todo o ambiente. O mais assustador: a ferramenta executou a ação sem qualquer intervenção ou validação humana.
O “erro humano” ou a autonomia assustadora da máquina?
Funcionários da Amazon ouvidos pelo FT revelaram que esse foi o segundo episódio recente de falhas causadas por IA. Em ambos os casos, engenheiros teriam permitido que o agente resolvesse o problema sem a validação humana que normalmente exigiria a aprovação de múltiplas pessoas. A Amazon, por sua vez, defende que os erros foram humanos e não da IA. Segundo a empresa, o problema foi um engenheiro com “permissões mais amplas do que o esperado”, o que permitiu ao Kiro agir sem autorização, transformando a falha em um problema de controle de acesso de usuário, e não de autonomia da IA.
Claro evolui pós-pago e integra iCloud e Google One aos
A Claro reafirma o seu papel como um hub de parcerias estratégicas com grandes empresas de tecnologia e anuncia importantes…
HONOR Lightning: Robô Humanoide da HONOR supera recorde mundial humano
VEJA O VÍDEO em que robô da HONOR rompe a barreira da tecnologia e supera tempo do recordista Jacob Kiplimo…
Além do papel: confira tecnologias que estão transformando o sistema
Do ensino básico ao superior, sistemas de assinaturas digitais, inteligência artificial na previsão de evasão escolar e automação de fluxo…
Check Point Alerta para Vazamento Silencioso de Credenciais no Claude
A adoção acelerada de inteligência artificial no desenvolvimento de software acaba de ganhar um novo capítulo de atenção. Pesquisadores da…
Valve lança solução para falta de memória em GPUs; ganho
Novo patch experimental da Valve revoluciona o gerenciamento de VRAM no Linux. Testes mostram Alan Wake II saltando de 14…
Expansão do mercado de data centers no Brasil é oportunidade
Por Walter Sanches O Brasil ocupa uma posição privilegiada no que se refere à expansão global dos data centers. Atualmente, o…
A Pressa Inexplicável para Usar a IA
A controvérsia acende um alerta sobre a pressa das grandes corporações em integrar a IA em funções sensíveis. Funcionários da Amazon confessaram ao FT que são céticos em relação à utilidade das ferramentas de IA para a maior parte de seu trabalho, devido ao risco inerente de erros. Apesar disso, a empresa tem uma meta interna agressiva: 80% de seus desenvolvedores devem usar ferramentas de IA para programar ao menos uma vez por semana, com a adoção sendo monitorada de perto.
Chatbots no comando: Q developer em ação
Antes do Kiro, a Amazon já utilizava o Amazon Q Developer, um chatbot projetado para auxiliar engenheiros na escrita de código. Segundo a reportagem, essa ferramenta também teria participado de um dos episódios de interrupção, levantando questões sobre a extensão da autonomia que esses “assistentes” estão recebendo e as possíveis consequências de suas decisões em ambientes críticos.
Lições aprendidas (ou ignoradas?) e o alerta global
Após os incidentes, a Amazon afirmou ter implementado novas salvaguardas, incluindo revisão obrigatória por pares e treinamentos reforçados para os funcionários. A empresa também minimizou o impacto do evento de dezembro, restrito a partes da China continental, e afirmou que o segundo incidente não afetou serviços externos.
No entanto, o caso da AWS ressoa como um alerta ensurdecedor para todas as empresas que estão apostando cegamente na autonomia da IA. Treinar equipes para confiar em agentes que não compreendem noções subjetivas, como os impactos reais de suas decisões no negócio, é um risco que pode custar milhões. Pelo menos por enquanto, a supervisão humana – especialmente em tomadas de decisões críticas – continua sendo fundamental para evitar um cenário digno de ficção científica.
Faça como os mais de 10.000 leitores do tecflow, clique no sino azul e tenha nossas notícias em primeira mão! Confira as melhores ofertas de celulares na loja parceira do tecflow.
