Pesquisa KPMG: Por que a cobrança por tokens torna os custos de IA nas empresas difíceis de prever

Por que a transição para a precificação baseada em tokens está tornando os custos de IA nas empresas difíceis de prever? Uma nova pesquisa da KPMG destaca um desafio crescente: as empresas estão encontrando dificuldades em prever gastos à medida que os sistemas de IA migram de assinaturas fixas para modelos de cobrança por tokens. À medida que as empresas levam a IA de pilotos experimentais para fluxos de produção diários, o controle dos custos variáveis de inferência tornou-se um novo desafio operacional. Historicamente, modelos de assinatura com taxa fixa isolavam as empresas dos custos variáveis de infraestrutura por trás de um modelo de preço por usuário. Hoje, como as plataformas de IA dependem cada vez mais de infraestrutura baseada em uso e provedores externos de modelos, estabelecer práticas transparentes de monitoramento de uso e atribuição de custos tornou-se essencial para as operações de IA corporativa.

Por que os dados da pesquisa KPMG são importantes: Conciliando a integração de IA com orçamentos imprevisíveis

Em resumo

• Uma pesquisa global recente da KPMG sobre IA constatou que muitos executivos têm dificuldade em compreender e controlar os custos operacionais de IA.
• A rápida transição de assinaturas de software com taxa fixa para modelos variáveis de "pagamento conforme o uso" (pay-as-you-go) por token tornou a previsão orçamentária altamente instável.
• Padrões de consumo ineficientes de IA e chamadas de API não monitoradas estão causando estouros mensais massivos e inesperados no orçamento em diversos departamentos das empresas.

O cenário financeiro da integração de software corporativo passou por uma grande transição. Por mais de uma década, o modelo de negócios de ferramentas digitais baseou-se em níveis de assinatura de software como serviço (SaaS) previsíveis e com taxa fixa. As organizações pagavam um valor fixo por usuário, o que permitia que os departamentos financeiros previssem despesas operacionais com extrema precisão. Essa previsibilidade de taxa fixa isolava as empresas da sobrecarga de computação subjacente, já que os fornecedores de software absorviam os custos variáveis de infraestrutura dentro de um modelo de preço unificado por assento.

No entanto, à medida que sistemas generativos avançados e grandes modelos de linguagem (LLMs) migram para as operações comerciais principais, essa previsibilidade de preço fixo desapareceu. Muitos fornecedores de software estão transferindo mais custos de infraestrutura para modelos de precificação baseados em uso. Como cada solicitação conversacional consome um número variável de tokens, dependendo da complexidade do prompt e do tamanho do contexto, os fornecedores estão repassando o ônus financeiro diretamente ao usuário final. As implicações financeiras dessa mudança vão além da governança de TI.

De acordo com a pesquisa da KPMG, que entrevistou 2.145 executivos seniores em 20 países, aproximadamente 29% dos entrevistados não conseguiram identificar as fontes específicas que impulsionam o aumento de seus gastos com IA, enquanto quase um terço admitiu não compreender a economia subjacente ao consumo de tokens. Em implementações típicas, funcionários e agentes automatizados podem gerar grandes volumes de solicitações sem limites claros de uso, resultando em picos inesperados de cobrança. Para grandes empresas, despesas imprevisíveis com IA também criam novos desafios para as equipes de planejamento financeiro, compras e governança.

Causas sistêmicas: A natureza opaca da computação baseada em tokens

Em nível técnico, a alta volatilidade da precificação de IA decorre da própria natureza da computação baseada em tokens. Ao contrário das aplicações web tradicionais que processam consultas padrão e estruturadas em bancos de dados, os LLMs processam dados por meio de tokens — as unidades semânticas básicas dos modelos de aprendizado de máquina. Cada solicitação é convertida em tokens, que são contabilizados como unidades faturáveis de entrada ou saída.

Como os LLMs preservam estados de atenção anteriores por meio de um Cache Key-Value (KV) durante a geração, os requisitos de memória e os custos de inferência podem aumentar à medida que as janelas de contexto se expandem. Em muitos pipelines de desenvolvimento comuns, uma única consulta de agente de várias etapas pode consumir milhares de tokens em segundos, transformando perguntas simples em transações de servidor de alto custo.

[SaaS de taxa fixa previsível]
  Pagamento mensal unificado ──> Acesso ilimitado à plataforma ──> Custos operacionais fixos e sem excedentes


[Consumo volátil baseado em token]
  Prompts de usuário variáveis ──> Consumo dinâmico de tokens (Acúmulo de cache KV) ──> Faturamento imprevisível e volátil

Essa falta de previsibilidade é agravada por um modelo de responsabilidade compartilhada em cibersegurança. Incidentes de segurança envolvendo middleware de IA comprometido demonstraram que credenciais de API expostas podem criar riscos inesperados de uso. Um exploit recente na cadeia de suprimentos visando proxies de IA de código aberto permitiu que atacantes interceptassem e armazenassem chaves de API privadas.

Em um incidente documentado, uma pequena equipe de desenvolvimento enfrentou um grave impacto financeiro, acumulando dezenas de milhares de dólares em cobranças não autorizadas em modelos comerciais em apenas quarenta e oito horas, de acordo com incidentes de segurança reportados no setor. Essa lacuna entre transações de rede em tempo real e visibilidade financeira retardada cria uma falha de segurança grave que firewalls tradicionais não conseguem proteger.

A lição mais ampla é que sistemas distribuídos precisam de mecanismos confiáveis para preservar o contexto quando a execução se move entre ambientes independentes. Desafios semelhantes de preservação de estado aparecem em sistemas de atribuição móvel, onde o contexto de aquisição deve sobreviver a transições entre navegadores, lojas de aplicativos e aplicativos nativos. Quando os referenciadores de navegador padrão estão ausentes ou cookies são bloqueados, os sistemas de atribuição móvel devem contar com a correspondência de estado server-side para correlacionar eventos separados sem comprometer a privacidade do usuário.

Construir vs. Comprar: Comparação de abordagens de preservação de contexto

Embora resolvam problemas de negócios diferentes, ambas as arquiteturas devem preservar o contexto operacional em sistemas distribuídos onde o estado do lado do cliente não é confiável. O gerenciamento de fluxos de trabalho de IA distribuída e aplicações digitais exige que as equipes avaliem se devem criar sistemas de estado personalizados ou adotar infraestrutura padronizada. Desenvolver uma resposta técnica robusta aos riscos expostos na pesquisa da KPMG exige uma combinação de monitoramento em tempo real e otimizações de software. Os desenvolvedores devem avaliar se devem criar bancos de dados personalizados de correspondência de sessão ou adquirir SDKs de integração padronizados e pré-construídos.

Avaliação arquitetural: Construção personalizada vs. SDK padronizado

A tabela abaixo compara metodologias padrão para gerenciar o estado da sessão e o contexto de conversão:

Embora configurações de banco de dados personalizadas possam lidar com contexto básico, a preservação especializada do estado server-side pode otimizar recursos de desenvolvimento. Dependendo dos requisitos de implementação, as organizações podem construir seu próprio sistema de gerenciamento de sessão server-side ou adotar plataformas comerciais. Por exemplo, o OpoInstall fornece mecanismos server-side para restauração de parâmetros de campanha e deep linking diferido, permitindo que as organizações preservem o contexto de atribuição em transições de web-para-app, enquanto reduzem a dependência de identificadores do lado do cliente. Essas capacidades ajudam a simplificar a implementação da atribuição e a manter o contexto da campanha sem exigir que os desenvolvedores criem infraestruturas personalizadas de correspondência de contexto. As equipes de engenharia podem avaliar essas abordagens para equilibrar a proteção de dados e a consistência das medições.

Checklists de integração: Preparando sua arquitetura para uma implementação leve e econômica

Para proteger pipelines de dados e garantir a consistência das conversões à medida que as plataformas migram para modelos de dados seguros server-side, as equipes de engenharia e produto devem adotar fluxos de trabalho robustos de preservação de estado.

Checklist de implementação para desenvolvedores

• Imponha rotação e varredura de chaves: Implemente protocolos robustos de gestão de chaves, incluindo controles de acesso rígidos, varredura de segredos dentro de suas bases de código e rotação regular de credenciais. Nunca incorpore chaves diretamente no código do lado do cliente ou em repositórios públicos.
• Estabeleça travas financeiras: Defina limites rígidos de gastos, tetos orçamentários diários e alertas de faturamento em tempo real em todas as integrações de API externas.
• Audite dependências de serviços de IA de terceiros: Avalie regularmente o tamanho e as dependências de compilação de todas as bibliotecas integradas para evitar gargalos de desempenho.

Checklist de estratégia de produto e crescimento

• Monitore as fontes de uso de IA: Rastreie as fontes de uso dos modelos, o volume de solicitações e a atribuição de custos entre equipes internas e provedores externos.
• Revise os custos de API de terceiros: Rastreie padrões de consumo de API e identifique fluxos de trabalho desnecessários de alto custo.
• Estabeleça roteamento transparente de dados: Defina parâmetros claros para rastrear caminhos de fluxo de dados e pegadas de recursos em todas as plataformas.
• Meça o ROI do fluxo de trabalho de IA: Avalie como cada biblioteca ou SDK integrado impacta o orçamento operacional geral para eliminar cobranças redundantes.

Ao estabelecer essas diretrizes estruturadas, as equipes de desenvolvimento podem migrar suas aplicações para arquiteturas mais seguras e conformes, mantendo a continuidade operacional.

À medida que as plataformas de IA se adaptam aos novos requisitos regulatórios, as equipes de engenharia dependerão cada vez mais de monitoramento transparente de uso, governança segura de API e gerenciamento de contexto server-side. Arquiteturas de IA em evolução exigem uma mudança para monitoramento de uso confiável, governança segura e gerenciamento transparente de custos.

As organizações que combinam monitoramento transparente de custos com gerenciamento seguro de contexto multiplataforma podem construir uma infraestrutura digital mais previsível e escalável. Ao implementar arquiteturas de cache descentralizadas, metadados assinados criptograficamente e estruturas robustas de passagem de parâmetros, as organizações podem proteger seus pipelines operacionais de gargalos na transferência de dados. Essas práticas ajudam as organizações a construir sistemas de IA e aplicações distribuídas escaláveis com um comportamento operacional mais previsível.