Box adota Nemotron da Nvidia em API de busca que reduz consumo de tokens em 90%
Novo sistema de recuperação de conteúdo divide documentos em blocos semânticos para alimentar agentes corporativos de IA sem estourar janelas de contexto.
Por que importa. Ao filtrar trechos relevantes antes de acionar LLMs, o sistema barateia fluxos de agentes que lidam com acervos corporativos e preserva controles rígidos de permissão.
A Box anunciou nesta quinta-feira (5), durante sua conferência para desenvolvedores, o Box Content Retrieval, um sistema de busca voltado a agentes de inteligência artificial que incorpora a tecnologia de embeddings Nemotron, desenvolvida pela Nvidia. A ferramenta processa o acervo corporativo e gera metadados semânticos para que agentes autônomos encontrem trechos específicos de arquivos sem precisar varrer documentos inteiros.
Em entrevista ao TechCrunch, a vice-presidente de software de IA generativa da Nvidia, Kari Briski, afirmou que a expectativa técnica é acelerar as respostas das consultas em quatro vezes, reduzir a taxa de erros em 20% e diminuir o volume de tokens consumidos pelas chamadas em 90%. O recurso será liberado no início do ano que vem para todos os clientes corporativos que assinam o plano Enterprise Advance da plataforma de armazenamento.
A estratégia aborda um gargalo crítico em arquiteturas de recuperação aumentada por geração (RAG): o envio de arquivos integrais para janelas de contexto extensas, prática que encarece a inferência e dilui a precisão do modelo. Ao integrar a etapa de vetorização na própria camada onde os dados corporativos já residem, a ferramenta tenta padronizar a extração prévia antes do envio aos modelos de linguagem.
Filtro em blocos e modelos Nemotron Embed
O presidente-executivo da Box, Aaron Levie, afirmou que o novo motor transforma a forma como os sistemas autônomos interagem com arquivos de texto. Em vez de exigir que um agente leia relatórios de dezenas de páginas para localizar uma única informação, o sistema envia de volta apenas os fragmentos mais relevantes para a tarefa solicitada pelo usuário.
A tecnologia utiliza a família Nemotron Embed, projeto da Nvidia focado em modelos de embedding com pesos abertos. Enquanto laboratórios de grande porte costumam priorizar modelos de raciocínio de ponta, a Nvidia concentrou esforços nesse segmento intermediário de pré-processamento de dados para RAG, alcançando o primeiro lugar no benchmark RTEB, que mede qualidade de recuperação textual, com a versão lançada em julho.
Por mapear conceitos subjacentes em vez de depender apenas da correspondência literal de palavras-chave, a busca consegue conectar termos com redações distintas. Em fluxos de trabalho jurídicos, por exemplo, o sistema permite que agentes descubram cláusulas contratuais e precedentes correlatos mesmo quando o vocabulário das peças não coincide diretamente com a consulta enviada pelo operador.
Empacotamento de permissões corporativas
Embora os modelos da família Nemotron tenham código e pesos de acesso livre, Levie ressaltou ao TechCrunch que a implementação do Box Content Retrieval não se resume à execução do modelo bruto. O sistema depende diretamente dos controles de acesso e da infraestrutura de metadados que a Box mantém há anos sobre as pastas das empresas, evitando que um agente indexe ou exiba conteúdos que o funcionário não teria permissão de visualizar.
Segundo o executivo, a empresa uniu cerca de cinco tecnologias diferentes em uma única interface de programação para simplificar a integração com fluxos de trabalho de agentes externos. Contudo, a Box não informou se haverá custos adicionais por volume de chamadas à API, nem revelou limites de taxa ou cronogramas para estender a funcionalidade a clientes fora do plano Enterprise Advance.
Fontes
- TechCrunch: Box taps Nvidia’s Nemotron for new agent-first content retrieval system
Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.
