Lançamentos

Nvidia lança Nemotron 3.5 Super VL no SageMaker com arquitetura MoE e 120 bi de parâmetros

Modelo de visão e linguagem combina Mamba-2 com Mixture-of-Experts e chega à nuvem da AWS em versões quantizada e de precisão total.

Capa ilustrativa da editoria Lançamentos

Por que importa. Times que criam agentes multimodais ganham uma opção aberta para leitura de telas, documentos e vídeos curtos com consumo ativo de apenas 12 bilhões de parâmetros por token.

A Amazon Web Services disponibilizou o modelo de visão e linguagem Nvidia Nemotron 3.5 Super VL no Amazon SageMaker JumpStart nesta segunda-feira, 9 de novembro de 2026. O modelo combina 120 bilhões de parâmetros totais em arquitetura Mixture-of-Experts com apenas 12 bilhões de parâmetros ativos por token gerado. Na prática, a chegada ao catálogo da AWS permite implantar a ferramenta com endpoints gerenciados via SageMaker Studio ou Python SDK, voltados a fluxos de agentes que precisam ler documentos, interpretar interfaces visuais e analisar vídeos.

O modelo aceita imagens, arquivos de vídeo e texto como entrada e devolve texto como saída, oferecendo suporte nativo a janelas de contexto de até 1 milhão de tokens. A arquitetura de linguagem reúne 88 camadas que intercalam Mamba-2 e blocos MoE, somando 512 especialistas roteados com 22 ativos por token, além de oito camadas de atenção e um cabeçalho integrado de previsão de múltiplos tokens. O processamento visual é feito por um codificador C-RADIO dedicado que converte quadros e imagens no espaço vetorial do modelo de linguagem.

Desempenho e variantes disponíveis no JumpStart

A AWS distribui o modelo em duas variantes de peso sob a licença OpenMDW 1.1. A versão recomendada para inferência é a NVFP4, que utiliza quantização de 4 bits em pesos e ativações (W4A4) obtida por destilação a partir de BF16, mantendo o codificador de visão e o conector em BF16. Essa versão tem arquivo de cerca de 75 GB e roda em instâncias ml.g7 com aceleradores Nvidia RTX PRO 4500 Blackwell Server Edition. A segunda opção entrega os pesos de referência completos em BF16, somando 249 GB, voltada para ajuste fino supervisionado, aprendizado por reforço e destilação em instâncias ml.p5en.48xlarge com oito GPUs Nvidia H200.

Nos testes da AWS com cinco requisições concorrentes de 250 tokens de entrada e 1.500 de saída, a variante NVFP4 na instância padrão ml.g7.24xlarge atingiu vazão média de 63,07 tokens por segundo por chamada, com tempo até o primeiro token de 0,45 segundo. Na instância ml.p5en.48xlarge, os pesos BF16 alcançaram 140,85 tokens por segundo por requisição com latência inicial de 0,53 segundo. A AWS alertou que o tempo de resposta sobe substancialmente em entradas longas: em testes de sumarização com 10 mil tokens de entrada na ml.g7.24xlarge, o tempo até o primeiro token saltou para 12,62 segundos.

Foco em agentes e limites operacionais

A Nvidia projetou o Super VL especificamente para agentes de uso de computador e compreensão de telas, além de inteligência documental como OCR de tabelas e gráficos. No benchmark OSWorld-Verified, focado em tarefas visuais de operação de sistemas operacionais, a versão NVFP4 marcou 52,30 pontos, superando ligeiramente a marca de 51,14 da versão BF16. No teste de documentos longos MMLongBench-Doc, ambas as variantes registraram 62,82 pontos, e no OCRBench v2 a opção NVFP4 atingiu 68,34 pontos.

Para os desenvolvedores, o endpoint no SageMaker expõe uma API compatível com o formato de mensagens de chat operada com vLLM, com suporte a chamadas de ferramentas e saídas estruturadas em JSON. O raciocínio passo a passo vem ativado por padrão e pode ser ajustado por requisição. No entanto, há restrições operacionais nas configurações prontas do JumpStart: embora a arquitetura aceite até 1 milhão de tokens, os perfis de serviço da AWS limitam o contexto entre 2.275 e 15.600 tokens, aceitam no máximo uma imagem e um vídeo por requisição e não habilitam decodificação especulativa nem carregamento dinâmico de adaptadores LoRA. Como o endpoint opera com isolamento de rede, todas as mídias precisam ser enviadas inline no formato base64.

Fontes

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Lançamentos

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.