IA local: o agente de IA que roda na sua empresa

Você abre a fatura da API de IA e leva um susto. Três mil reais num mês em que ninguém "usou IA" de propósito. Foi o robozinho que classifica e-mail rodando de madrugada, o script que resume ticket, o fluxo que checa pedido a cada dez minutos. Cada chamada custa centavos. Centavos vezes cem mil chamadas viram um salário. É exatamente aí que a IA local começa a fazer sentido: um modelo menor, rodando numa máquina sua, ligado o dia inteiro, sem contador girando.

A Meta lançou em junho o Muse Glimmer, um modelo aberto de 30 bilhões de parâmetros feito justamente para isso: agentes que ficam ligados o tempo todo, na sua infraestrutura. Não é o modelo mais inteligente do mundo. Não precisa ser. Ele foi feito para outra coisa.

O que "sempre ligado" quer dizer na prática

Tem dois tipos de uso de IA na empresa e as pessoas misturam os dois.

O primeiro é o uso pontual. Alguém pede um texto, uma análise, uma proposta. Acontece dez, vinte vezes por dia. Precisa ser bom. Custa pouco porque é pouco volume.

O segundo é o uso de fundo. O agente que lê todo e-mail que chega e decide se é orçamento, reclamação ou spam. O que monitora um estoque. O que transcreve e resume toda ligação do comercial. Isso roda o tempo todo, sem ninguém olhando, e o volume é absurdo comparado com o primeiro caso.

O erro comum é usar o modelo caro nos dois. É como contratar um advogado sênior para carimbar protocolo. Funciona, mas você paga hora de advogado para carimbar papel.

Modelo grande é para pensar. Modelo pequeno é para trabalhar.

Por que um modelo de 30B muda a conta

Trinta bilhões de parâmetros parece muito. Em 2023 era coisa de data center. Hoje roda numa única placa de vídeo de uns 24 GB, dessas que um estúdio de arquitetura já tem na máquina de renderização.

Isso muda três coisas de uma vez.

O custo vira fixo. Você compra ou aluga a máquina e acabou. Não importa se o agente rodou mil ou um milhão de vezes naquele mês. Um cliente meu tinha um fluxo que classificava mensagens de WhatsApp: uns 40 mil por mês. Na nuvem, dava perto de R$ 900. Migrado para um modelo local numa VPS com GPU de R$ 400/mês, sobrou espaço para colocar mais três automações em cima sem mexer no preço.

Os dados não saem. Escritório de contabilidade, clínica, advocacia. Se o agente lê documento de cliente, alguém vai perguntar para onde esse documento foi. "Fica no servidor da empresa" é uma resposta muito mais fácil de dar do que um parágrafo sobre política de retenção de um fornecedor lá fora.

A latência some. Sem viagem até um servidor em outro continente. Resposta em menos de um segundo, sempre. Para um agente que faz vinte passos numa tarefa, isso é a diferença entre dois segundos e trinta.

Onde a IA local não serve

Vou ser honesto, porque essa parte quase ninguém escreve.

Modelo pequeno erra mais em tarefa aberta. Se você pede "analise esse contrato e me diga os riscos", ele vai dar uma resposta razoável e você vai achar que está tudo bem. Não está. Nesse tipo de tarefa a diferença para um modelo grande é gritante e cara de descobrir tarde.

Modelo local também não tem os últimos meses de internet na cabeça. Ele não sabe da lei que mudou semana passada. Precisa de acesso aos seus dados para ser útil, e isso é trabalho de integração, não mágica.

E tem o óbvio: alguém precisa cuidar da máquina. Se sua empresa não tem ninguém que saiba subir um servidor e ele cair num sábado, você trocou uma fatura por um problema.

A regra que eu uso é simples. Se a tarefa é repetitiva, tem formato claro e um erro ocasional não quebra nada, vai de local. Se a tarefa é aberta, rara e cara de errar, use o modelo bom e pague os centavos.

Um exemplo que dá para copiar

Distribuidora de peças, seis pessoas no comercial. Chegavam uns 300 pedidos por dia entre e-mail e WhatsApp, tudo em texto livre: "manda 20 daquele filtro que comprei mês passado".

O fluxo antigo era uma pessoa lendo e digitando no ERP. Quatro horas por dia dessa pessoa.

O que a gente montou:

• Um agente local lê a mensagem e extrai três coisas: cliente, produto, quantidade.
• Ele consulta o histórico do cliente no banco para resolver o "daquele filtro".
• Se tem confiança alta, cria o rascunho do pedido no ERP.
• Se tem qualquer dúvida, joga na fila humana com o que ele entendeu já preenchido.

Nada de "IA autônoma". O agente é um estagiário rápido que preenche formulário e levanta a mão quando não sabe. Cerca de 70% dos pedidos passam sem toque humano. Os outros 30% chegam meio prontos, então mesmo eles ficam mais rápidos.

A tarefa é chata, repetitiva e estruturada. Modelo de 30B dá conta com folga. E como roda local, ninguém contou chamada de API.

Como testar isso sem gastar rios de dinheiro

Não compre GPU. Sério. Esse é o erro clássico: o dono se anima, gasta 15 mil numa máquina e ela vira enfeite.

Faça na ordem:

1. Escolha uma tarefa só. A mais repetitiva que você tiver. Se você não consegue explicar em duas frases o que o agente decide, ela ainda não está pronta.
2. Rode na nuvem primeiro, com modelo bom. Por duas semanas. É caro, e é exatamente essa fatura que vai te dizer se vale migrar. Também é assim que você descobre se a tarefa funciona.
3. Meça a taxa de acerto. Compare com o humano fazendo. Se o humano acerta 97% e a IA acerta 91%, decida se essa diferença dói ou não. Às vezes dói. Às vezes é irrelevante.
4. Só então teste local. Aluga uma máquina com GPU por mês, roda o mesmo teste, compara os números. Se cair muito, volta.
5. Se ficou bom por três meses seguidos, aí você pensa em comprar hardware.

Esse caminho custa umas poucas centenas de reais para descobrir se a ideia presta. É bem mais barato que descobrir depois.

O ponto que interessa para você

A notícia relevante não é "saiu mais um modelo". Sai modelo novo toda semana e daqui a seis meses o Muse Glimmer vai estar velho.

O ponto é que a qualidade necessária para automação de rotina deixou de ser exclusividade de quem tem contrato com gigante de nuvem. Um estúdio de um desenvolvedor só consegue montar, hoje, um agente rodando na infraestrutura do cliente, com dados que não saem de lá, por um custo mensal fixo que cabe numa empresa de dez pessoas.

Isso muda o tipo de pergunta que vale a pena fazer. Não é mais "quanto vai custar por mês essa IA". É "qual tarefa da minha operação é repetitiva o bastante para justificar um agente cuidando dela".

Se você já tem uma tarefa em mente e quer uma opinião sincera sobre se ela compensa automatizar ou não, me chama para conversar. Metade das vezes minha resposta é que não vale a pena ainda, e isso também é informação útil.

Recebi um print de uma fatura de API de IA: R$ 3 mil num mês em que ninguém "usou IA" de propósito.

Era robozinho classificando e-mail de madrugada. Centavos por chamada, cem mil chamadas, um salário.

O erro não é a IA. É usar modelo caro pra tarefa burra. É contratar advogado sênior pra carimbar protocolo.

Modelo grande é pra pensar. Modelo pequeno é pra trabalhar. E hoje um modelo pequeno roda na sua máquina, com seus dados, por custo fixo.

Numa distribuidora de peças, 70% dos pedidos entram no ERP sem toque humano. Custo mensal: o aluguel da máquina, e ponto.

Se você já tem uma tarefa repetitiva em mente e quer saber se compensa automatizar, me chama. Metade das vezes eu digo que ainda não vale, e isso também é resposta.

#InteligenciaArtificial #Automacao #IALocal #PequenasEmpresas #Tecnologia