Ferramentas

Nvidia lança CPU Vera com 176 núcleos para acelerar orquestração de agentes de IA

Novo processador da fabricante promete o dobro da velocidade e 1,6 vez mais agentes por watt em data centers ao assumir a execução de tarefas fora das GPUs.

Capa ilustrativa da editoria Ferramentas

Por que importa. A execução de código e chamadas de bancos de dados em agentes de IA sobrecarregava CPUs x86 comuns. O chip reduz a latência de sandboxes e o custo elétrico de orquestração na nuvem.

A Nvidia apresentou a CPU Vera, seu novo processador voltado para sustentar as etapas operacionais de agentes de inteligência artificial em data centers. Em testes com perfil de instalação de 100 megawatts divulgados pela companhia, o componente sustentou 1,6 vez mais agentes por watt em relação à CPU x86 mais rápida do mercado, além de entregar o dobro da velocidade de execução quando comparado ao processador x86 líder em eficiência energética.

A movimentação foca no gargalo de processamento tradicional gerado pelo comportamento dos agentes autônomos. Enquanto os modelos de linguagem utilizam aceleradores gráficos para raciocinar e sintetizar respostas, tarefas intermediárias como buscas em repositórios, consultas a bancos de dados, subida de ambientes isolados e execução de código dependem inteiramente de unidades centrais de processamento. Segundo a fabricante, provedores de infraestrutura precisavam misturar chips x86 densos com chips focados em latência para tentar equilibrar consumo de energia e velocidade de resposta.

Ganhos em orquestração e sandboxes

Empresas de software e plataformas de computação em nuvem que tiveram acesso antecipado ao hardware relataram ganhos expressivos na inicialização de ambientes de teste e na orquestração de chamadas. A plataforma de ambientes para desenvolvedores Daytona registrou a subida de 1.000 sandboxes de agentes em 10,8 segundos na CPU Vera, contra 88,4 segundos em máquinas x86, além de processar 12,7 tarefas por segundo com 2.000 sandboxes simultâneas. Na mesma linha de infraestrutura de execução, o serviço de computação em nuvem Modal reportou até o dobro de taxa de transferência de sandboxes por núcleo em cargas de trabalho elevadas.

Na camada de orquestração direta de agentes, a DeepInfra afirmou ter alcançado velocidade até 2,2 vezes maior do que o melhor chip x86 testado em suas rotinas de produção. O motor de busca Perplexity mediu um ganho de 1,5 vez na velocidade de tarefas em que agentes escrevem e testam código, e confirmou planos de colocar o chip da Nvidia em seus sistemas de produção futuros.

Em processamento de dados puro, o banco de dados analítico ClickHouse informou que seu executável padrão operou sem necessidade de ajustes específicos para o Vera, atingindo escala quase linear ao longo de 176 núcleos e assumindo o primeiro lugar no ranking de hardware ClickBench. Em testes analíticos padronizados, a DuckLabs registrou cerca de 1,5 vez a mediana de desempenho do benchmark TPC-H SF1000 na comparação direta com a linha de base do Intel Xeon 6.

O que a Nvidia não revelou

Apesar dos dados de desempenho comparativo divulgados com parceiros selecionados, a Nvidia não informou na publicação as especificações completas de arquitetura, consumo elétrico nominal em watts por chip ou o cronograma de entrega em larga escala para provedores de nuvem concorrentes. A empresa também não divulgou valores de tabela para a aquisição individual do componente ou dos servidores montados.

A aposta da fabricante indica que a corrida de hardware para agentes não se limitará à memória de alta largura de banda e à potência bruta das GPUs. Conforme as empresas colocam agentes em produção para atuar de forma contínua em sistemas internos, o tempo de inicialização de instâncias e a eficiência térmica do processador central passam a ditar a viabilidade financeira das operações.

Fontes

  • NVIDIA: Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Ferramentas

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.