Brasil

Custo de tokens é o principal entrave para 46% dos criadores de bots no Brasil

Levantamento do Mobile Time com 41 empresas mostra que gasto com inferência e falta de acurácia lideram gargalos na orquestração de LLMs. OpenAI cai de 69% para 59% na preferência.

Capa ilustrativa da editoria Brasil

Por que importa. Para times brasileiros de produto, o peso da fatura de inferência impõe sistemas híbridos: PLN determinístico e menus filtram chamadas antes do envio a modelos de linguagem.

O custo do token é o maior desafio na orquestração de grandes modelos de linguagem (LLMs) para 46% dos desenvolvedores de robôs de conversação no Brasil. O dado faz parte do Mapa do Ecossistema Brasileiro de Bots 2026, pesquisa divulgada nesta quinta-feira pelo Mobile Time com 41 empresas que desenvolvem e operam assistentes no país. A falta de acurácia nas respostas aparece como o segundo maior problema técnico, citado por 29% dos profissionais, enquanto a latência nas requisições foi apontada por 12% dos entrevistados como entrave para viabilizar determinados casos de uso.

Os números mostram por que a substituição de sistemas conversacionais tradicionais por modelos generativos não ocorreu de forma generalizada nas empresas nacionais. De acordo com o relatório, o ecossistema brasileiro ainda conta com uma ampla base legada de robôs baseados em processamento de linguagem natural (PLN) determinística e formatos herdados de URA de texto. A transição para a IA generativa vem ocorrendo de maneira gradativa, impulsionada pela busca de equilíbrio entre o ganho de flexibilidade e a contenção de gastos com inferência.

Arquiteturas híbridas para cortar despesas

Para contornar o peso das faturas de tokens e os gargalos de latência, a tendência identificada pelo estudo é a composição de soluções híbridas. Em vez de enviar todas as interações do usuário diretamente para um modelo de linguagem, os times de produto mantêm camadas determinísticas na linha de frente do atendimento. Comandos frequentes, opções de navegação e fluxos estruturados continuam operando via PLN tradicional ou menus de texto simples, reservando a chamada a motores de LLM apenas para solicitações que exigem interpretação aberta.

Segundo o Mobile Time, essa combinação técnica reduz o volume de tokens faturados e diminui o tempo de resposta geral do sistema. A estratégia também ataca diretamente o segundo principal problema relatado pelas 41 companhias, que é a falta de acurácia em 29% das respostas geradas. Ao restringir o escopo de atuação do LLM aos momentos necessários da jornada, os desenvolvedores conseguem mitigar alucinações sem abrir mão do controle operacional exigido em ambientes de atendimento ao cliente.

OpenAI perde terreno para rivais

No mapeamento de fornecedores de LLMs, a OpenAI mantém a preferência de 59% dos desenvolvedores brasileiros ouvidos pelo levantamento. No entanto, a desenvolvedora do ChatGPT registrou recuo em comparação com o levantamento anterior, quando concentrava 69% da preferência no ecossistema nacional. A queda de dez pontos percentuais em doze meses indica uma diversificação gradual das ferramentas adotadas pelas empresas locais na construção de assistentes virtuais.

O recuo da OpenAI alimentou o avanço de concorrentes diretos no país, com destaque para Google e Anthropic. A preferência pelo Google saltou de 10% para 17% entre os respondentes no último ano. A Anthropic, por sua vez, mais que triplicou sua presença no relatório, saindo de 2% para 7% das menções dos times de desenvolvimento. As três companhias concentram a totalidade das escolhas detalhadas no estudo do Mobile Time sobre motores de linguagem para bots.

O relatório completo reúne ainda informações sobre a base de robôs em operação no Brasil, modelos de negócios, finalidades das aplicações e canais de mensageria mais utilizados. A publicação não divulgou os valores financeiros absolutos despendidos em inferência pelas 41 participantes nem metas específicas de latência exigidas pelos contratos. Para quem desenvolve produtos de conversação no mercado brasileiro, o estudo consolida que a viabilidade econômica do produto segue dependente de regras determinísticas de triagem antes de qualquer chamada de API.

Fontes

  • Mobile Time: Custo do token é o maior desafio na orquestração de LLMs, dizem desenvolvedores

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Brasil

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.