Recentemente diversas grandes empresas, como o Uber e a Microsoft, tem relatado rever o uso interno de ferramentas de IA por conta dos altos custos que já estouraram seus orçamentos. E isso levantou uma questão: Qual é mais barato, funcionários ou tokens de IA? Nesse post nós da Hosting Machine vamos falar mais sobre esse assunto.

Funcionários ou tokens de IA – Qual é mais barato?

O que é o consumo de tokens?

O consumo de tokens é a unidade de medida do custo e da capacidade de processamento em modelos de linguagem. Ou seja, os modelos fragmentam as palavras em unidades chamadas tokens, que podem representar caracteres, sílabas ou palavras completas. Toda interação exige um gasto de tokens de entrada e de saída, sendo essa métrica a base para a cobrança das APIs de provedores, como por exemplo a OpenAI e Anthropic.

Assim, quando as empresas usam soluções de IA em larga escala, o volume de tokens disparado por milhões de requisições pode gerar custos operacionais imprevistos e, consequentemente, exorbitantes. Dessa forma, o controle sobre esse consumo se torna um grande desafio. Isto é porque cada caractere processado impacta diretamente a viabilidade financeira de produtos integrados, exigindo uma gestão rigorosa para evitar quaisquer desperdícios.

Por que as empresas estão reclamando?

As empresas vêm anunciando seu desagrado devido à falta de previsibilidade nos custos e à ineficiência inerente aos modelos atuais, que consomem muitos tokens para tarefas simples. Desse modo, o que deveria ser uma ferramenta econômica está se tornando um buraco financeiro. Pois a latência e o alto custo por processamento dificultam cada vez mais a escalabilidade de soluções de IA no ambiente corporativo.

Uber

A Uber tem mostrado preocupações sobre a sustentabilidade econômica de integrar IA em suas operações complexas de logística e suporte. Isto é porque ela lida com uma massiva quantidade de dados em tempo real, e o custo de processar cada interação de cliente ou ajuste de rota pelos modelos de linguagem, baseando-se nos tokens, torna a operação inviável financeiramente. Sua principal frustração é o fato de que os modelos atuais, embora poderosos, exigem um volume de tokens desproporcional para realizar tarefas repetitivas. Assim forçando a empresa a buscar alternativas mais baratas ou modelos próprios para não comprometer suas margens de lucro.

Microsoft

A Microsoft vem enfrentando um dilema crítico ao tentar balancear a inovação com o Burn Rate, que é a taxa de consumo de capital, dos seus serviços de IA. Embora seja uma gigante, a empresa sente o impacto direto de subsidiar o custo elevado dos modelos nas suas integrações no ecossistema Azure e Copilot. O custo por token tem se tornado um gargalo, já que a alta demanda dos usuários corporativos exige um poder computacional custoso. Ela também reclama da ineficiência dos modelos em “raciocinar” sem gastar uma fortuna em tokens de saída, pressionando os desenvolvedores para que encontrem formas de otimizar a latência e o consumo antes que o custo operacional supere a receita gerada pelas assinaturas do Copilot.

O que é Tokenmaxxing

O Tokenmaxxing é um fenômeno de “excesso de processamento”. Ele acontece quando desenvolvedores alimentam modelos de linguagem com volumes massivos de informações, instruções contextuais e dados irrelevantes, na tentativa de obter resultados de alta precisão. A lógica por trás dessa estratégia era que, quanto mais contexto o modelo tiver, melhor vai ser o resultado. No entanto, essa prática ignora a lei dos rendimentos decrescentes. Em suma, essa lei diz que, após certo ponto, adicionar mais dados não aumenta a qualidade da resposta, mas eleva drasticamente o custo financeiro.

Esse fenômeno mostra a imaturidade de certos usuários na gestão de grandes modelos. Já que só acontece quando priorizam a “força bruta” de dados ao invés da engenharia de prompts eficiente. Desse modo, várias organizações e empresas acabam desperdiçando milhões de tokens.

Funcionários ou tokens de IA

Diferentemente da visão que tínhamos, de que a IA substituiria o trabalho humano de forma barata, na verdade isso parece ser o contrário. Já que, embora a IA ofereça velocidade, o custo oculto da computação é muito mais superior ao salário de um trabalhador humano em uma ampla gama de funções. Diversos executivos da indústria admitiram que o custo da computação necessária para rodar agentes de IA em escala excede a remuneração de profissionais qualificados.

O fator determinante é a eficiência operacional. Estudos indicam que, em cerca de 77% das funções que exigem análises ou tarefas complexas, o custo-benefício de ter um humano revisando ou executando o trabalho é superior ao de uma IA. Além disso, a necessidade constante de supervisão humana para corrigir “alucinações” dos modelos aumenta o custo e tempo, que as empresas não contabilizam inicialmente.

Para as big techs, o modelo de cobrança por token impõe um teto de viabilidade. Enquanto um funcionário humano possui um salário fixo que entrega um volume variável de trabalho, a IA cobra por cada tentativa. Ou seja, em tarefas complexas de codificação ou suporte, a ineficiência do modelo, que pode exigir múltiplas tentativas ou um histórico extenso para ser preciso, torna o processo muito mais caro do que o capital intelectual humano.

Agentes autônomos vs. Chatbots comuns

A principal diferença entre chatbots comuns e agentes autônomos está na capacidade de execução e tomada de decisão. Já que, enquanto um chatbot é essencialmente um sistema de conversação limitado a scripts ou fluxos pré-definidos, agindo como um repositório passivo de informações, o agente autônomo é projetado para operar com autonomia, se adaptando a cenários dinâmicos.

Os chatbots comuns, como aqueles usados em suporte básico, seguem regras fixas para responder a perguntas frequentes. Eles não aprendem com o histórico e possuem capacidade limitada de resolução, servindo apenas para triagem. Já os agentes autônomos, como os que as Big Techs tentaram implementar, utilizam modelos avançados para interpretar contextos, buscar dados em bases distintas e executar planos de múltiplas etapas sem intervenção constante.

Essa autonomia é uma faca de dois gumes. Já que como eles possuem “liberdade” para raciocinar e tomar decisões, eles consomem um volume significativamente maior de tokens a cada iteração complexa. Ou seja, enquanto um chatbot de suporte consome apenas alguns tokens para responder “Sim” ou “Não”, um agente autônomo realizando uma tarefa complexa de engenharia pode processar milhares de tokens em minutos. Assim elevando o custo operacional a patamares altíssimos e tornando a escolha entre ambas as tecnologias uma decisão estratégica baseada estritamente no Retorno sobre o investimento (ROI).