Ao levar o serviço gerenciado de implantação de modelos (model serving) e a execução isolada para agentes de IA à Akamai Cloud, a Akamai (Nasdaq: AKAM) apresentou hoje dois produtos fundamentais para seu ecossistema de IA: Akamai Inference e Akamai Agent Sandbox. Com essas adições, as empresas podem criar e ajustar seus próprios modelos de código aberto (open-weight) ou modelos hospedados, fundamentá-los em seus próprios dados, executar agentes dentro de limites rigorosamente controlados e proteger as aplicações, agentes e a infraestrutura envolvidos, tudo em uma única plataforma de nuvem com infraestrutura otimizada para IA.

• Participe dos nossos canais no Twitter, Telegram ou Whatsapp!
• Confira nossos stories no Instagram e veja notícias como essa!
• Siga o tecflow no Spotify Podcast para ouvir nosso conteúdo!
• Anuncie conosco aqui ou apoie o tecflow clicando neste link!
• Assine nossa newsletter neste link ou no LinkedIn!
• Siga o tecflow no tik tok!

Essas capacidades representam o mais recente passo na estratégia de IA da Akamai: fornecer às empresas a infraestrutura e os serviços globais confiáveis necessários para disponibilizar, executar e proteger aplicações e agentes de IA, próximos aos usuários e aos dados dos quais eles dependem. O Akamai Inference e o Akamai Agent Sandbox agora adicionam serviços gerenciados a essa infraestrutura, uma base que já garantiu contratos plurianuais para a Akamai Cloud, com um valor total superior a US$ 14 bilhões. Essa iniciativa destaca como a capacidade da Akamai de utilizar tanto CPUs quanto GPUs, juntamente com armazenamento em nuvem, redes e funções de edge em sua malha de rede global interconectada, está se tornando rapidamente a base confiável para que os clientes criem, implementem e executem workloads de IA em larga escala.

As empresas que estão implementando a IA em ambiente de produção precisam de muito mais do que modelos. Elas precisam de infraestrutura de serviços, acesso aos seus dados, roteamento e governança e, à medida que os agentes começarem a escrever e executar seu próprio código, de uma barreira rigorosa que limite o que esse código pode acessar. A maioria das equipes reúne esses componentes de diferentes fornecedores e gerencia por conta própria os pontos de integração. A Akamai Cloud agora oferece um ambiente de IA conectado, distribuído por um continuum de capacidade de processamento que vai desde clusters densos de GPU e CPU em regiões centrais até mais de 4.350 locais de edge, e protegido pelo mesmo portfólio de segurança que defende muitas das maiores empresas online do mundo.

“Temos implementado uma estratégia de infraestrutura de IA baseada na premissa de que a inferência de IA representará a maior parte do foco e do investimento das empresas. Nossos clientes comprovaram essa tese e nos impulsionaram ainda mais”, afirma Adam Karon, Diretor de Operações e Gerente Geral da Akamai Cloud. “Eles querem desenvolver, operar e proteger a IA na mesma plataforma. O Akamai Inference e o Akamai Agent Sandbox adicionam as camadas de inferência e execução que transformam nossa infraestrutura de IA em um ecossistema completo de IA, e nosso portfólio de segurança protege cada uma dessas camadas. A Akamai está em uma posição única para utilizar sua escala e infraestrutura de distribuição a fim de atender às demandas de expansão de workloads de inferência em tempo real e de agentes de IA.”

Acesse modelos sem operar o stack: Akamai Inference

O Akamai Inference oferece às empresas acesso gerenciado a modelos de código aberto (open-weight) e modelos personalizados por meio de APIs compatíveis com a OpenAI, permitindo que aplicações existentes sejam integradas sem a necessidade de reescrita. Os clientes podem optar por serverless, inferência sob demanda (pay-per-use) ou implantações dedicadas. No lançamento, o catálogo inclui 12 modelos de código aberto (open-weight), variando de 8 bilhões a 2,8 trilhões de parâmetros, incluindo o NVIDIA^™ Nemotron-3 Ultra, o OpenAI^™ gpt-oss-120b e o Google^™ Gemma 4, além de modelos de embeddings para geração com recuperação de informações (RAG).

A Akamai Cloud oferece acesso a bancos de dados gerenciados e armazenamento de objetos, conectando-se de forma integrada a plataformas de nuvem privada e pública, para que os modelos possam utilizar dados corporativos. O Akamai Inference, então, cuida da orquestração, da execução do modelo e da autenticação. As solicitações são processadas na rede global da Akamai, o que reduz a latência e ajuda a garantir alta disponibilidade e desempenho consistente, mantendo níveis de serviço previsíveis. 

Ofereça aos agentes um local para atuar: Akamai Agent Sandbox

Agentes de IA estão cada vez mais realizando tarefas reais, desde a execução de ações em nome do usuário até a escrita e execução do seu próprio código. O Akamai Agent Sandbox oferece aos desenvolvedores um ambiente seguro para executar ambos. Os agentes são executados no Akamai Functions, e o código que eles escrevem é executado em seu próprio ambiente isolado, separado do ambiente de execução do agente. Disponibilizado como um componente de código aberto do framework Spin, o Akamai Agent Sandbox utiliza o isolamento do WebAssembly para estabelecer limites claros de processamento, memória, conexões de saída e capacidades do sistema. Os desenvolvedores podem implantar agentes com a certeza de onde eles serão executados e a que terão acesso.

O isolamento de agentes está convergindo em vários modelos, desde microVMs com capacidade de snapshot e fork, até containers geridos por políticas, passando por funções isoladas via WebAssembly. A Akamai permite que os desenvolvedores escolham a arquitetura mais adequada às suas workloads, com infraestrutura de CPU dedicada e acelerada por NVIDIA, Kubernetes gerenciado e Akamai Functions para execução serverless em toda a rede de edge e no core. A Akamai também planeja adicionar funcionalidades que controlem quais recursos os agentes podem acessar e de onde podem ser acessados.

Crie e otimize em uma frota de GPUs mais ampla: NVIDIA Blackwell Ultra hoje, Vera Rubin em seguida

A Akamai também ampliou sua frota dedicada de GPUs para incluir clusters de GPUs NVIDIA Blackwell Ultra e está preparando sua infraestrutura para suportar a plataforma NVIDIA Vera Rubin no próximo ano. A frota de GPUs da Akamai agora inclui GPUs NVIDIA RTX PRO^™6000 Blackwell Server Edition^® para inferência de baixa latência, bem como clusters de GPUs NVIDIA Blackwell Ultra para empresas que desejam desenvolver, ajustar e hospedar seus próprios modelos em uma infraestrutura sob seu controle. A Akamai também está preparando seus data centers para suportar a plataforma NVIDIA Vera Rubin em 2027.

Cada nó Blackwell Ultra com oito GPUs possui 288 GB de memória HBM3e por GPU, totalizando 2,3 TB, o que é suficiente para acomodar modelos de fronteira. A arquitetura Blackwell Ultra foi projetada para as workloads que impulsionam essa demanda de memória: dimensionamento durante a inferência, raciocínio por etapas (chain-of-thought) e tarefas de agentes com contextos extensos. Os clusters de GPU oferecem às empresas controle sobre as versões dos modelos e os cronogramas de descontinuação, e operam sem limites de taxa ou filas decorrentes de compartilhamento de recursos. Eles se conectam aos mesmos serviços de dados, rede e segurança que o restante da Akamai Cloud.

“As empresas não deveriam ter que escolher entre velocidade e controle ao implementar a IA em produção”, afirma Jon Alexander, vice-presidente sênior de Tecnologia em Nuvem da Akamai. “Algumas equipes querem lançar um recurso de IA neste trimestre em uma plataforma gerenciada. Outras precisam de GPUs dedicadas para executar modelos abertos de ponta conforme suas próprias necessidades. Toda equipe que utiliza agentes precisa de limites em relação ao código que esses agentes geram. A Akamai Cloud agora oferece suporte a todos eles em uma única plataforma, com segurança e resiliência integradas.”

Disponibilidade

O Akamai Agent Sandbox (via Spin SDK) e o Akamai Inference estão disponíveis em versão beta. A versão beta do Akamai Inference inclui opções de implantação serverless. Entre em contato com a equipe de vendas da Akamai para obter informações sobre a disponibilidade de clusters de GPUs NVIDIA B300.

Faça como os mais de 10.000 leitores do tecflow, clique no sino azul e tenha nossas notícias em primeira mão! Confira as melhores ofertas de celulares na loja parceira do tecflow.

Redação tecflow

Tecflow é um website focado em notícias sobre tecnologia com resenhas, artigos, tutoriais, podcasts, vídeos sobre tech, eletrônicos de consumo e mercado B2B.