Agentes de IA: quando o autofix vira porta dos fundos

O robô achou um problema no código, sugeriu a correção, alguém clicou em "aceitar" e a correção abriu um buraco maior que o problema original. Não é hipótese. Aconteceu com a Snowflake, uma empresa de dados que vale bilhões e tem time de segurança de verdade. Pesquisadores da Wiz mostraram que uma sugestão automática de correção gerada por IA, aceita dentro do fluxo de automação da empresa, virou o caminho para chegar no Jira interno. Esse é o ponto cego dos agentes de IA que quase ninguém está olhando: a gente audita o que a IA escreve do zero, mas confia cegamente no que ela "conserta".

Se você é dono de negócio e acha que isso é papo de programador, segura um pouco. O Jira é onde a empresa guarda o que está quebrado, o que vai ser lançado, quem reclamou do quê. É o diário de bordo da operação. Alguém de fora lendo aquilo sabe mais do seu negócio que metade do seu time.

O que exatamente aconteceu

Resumo em português de gente. Existe um recurso no GitHub, chamado autofix, que usa IA para ler um alerta de segurança e propor o remendo. Ideia excelente no papel: a máquina acha, a máquina arruma, você aprova. O problema é o que acontece depois do "aprova".

Nesse caso, a correção gerada pela IA foi incorporada no fluxo automático que roda toda vez que alguém mexe no código. Esse fluxo tinha permissões amplas e acesso a credenciais que davam entrada em outros sistemas. Um pesquisador conseguiu manipular o processo e, no fim da linha, alcançar o Jira da empresa.

Note a sequência, porque ela é o coração da história:

• A IA gerou código.
• O código passou por uma revisão que era, na prática, um carimbo.
• Esse código rodou dentro de um ambiente com chaves poderosas.
• Ninguém perguntou "e se essa correção estiver errada, o que ela alcança?".

Cada passo isolado parece razoável. Juntos, viram um problema. E olha que a Snowflake fez a parte difícil certo: recebeu o report, corrigiu rápido, publicou. A maioria das empresas nem descobriria.

Por que "corrigir" é mais perigoso que "criar"

Quando você pede pra IA escrever uma funcionalidade nova, seu cérebro liga o modo desconfiado. Você lê, testa, questiona. Quando ela corrige um bug que ela mesma apontou, acontece uma coisa curiosa: o alerta vem com aparência de autoridade. "Vulnerabilidade encontrada. Correção sugerida." Parece antivírus. Você aceita.

Só que o modelo não entende o seu negócio. Ele entende padrões de código. Ele viu dez mil correções parecidas e produziu a décima mil e uma. Não faz ideia se aquele arquivo específico roda com permissão de administrador ou se aquele token dá acesso ao banco de clientes.

A IA não erra por burrice. Ela erra por não saber onde está pisando.

Em 2025 e 2026 isso ficou pior por um motivo simples: aumentou brutalmente o volume. Uma equipe que revisava vinte alterações por semana agora recebe duzentas. A qualidade média até subiu. A atenção humana por alteração despencou. Essa é a conta que ninguém fez.

O que isso tem a ver com a sua empresa

Você provavelmente não tem CI/CD com dez mil execuções por dia. Mas se você usa agentes de IA em qualquer lugar do seu negócio, o padrão é idêntico. Alguns casos que eu vejo na prática:

Agente que responde clientes. Você conectou o bot ao sistema de pedidos pra ele consultar status. Ótimo. Ele consulta com qual permissão? Se ele pode ler o pedido de qualquer CPF, um cliente esperto descobre isso em vinte minutos de conversa.

Automação que mexe em planilha ou ERP. O agente tem acesso de escrita "pra facilitar". Um dia ele interpreta errado um pedido e apaga uma coluna. Não tem malícia nenhuma, é só um erro. Mas o estrago é real.

Integração com e-mail. O agente lê a caixa de entrada pra triar mensagens. Qualquer pessoa no mundo pode mandar e-mail pra você. Ou seja: qualquer pessoa no mundo consegue colocar texto dentro do seu agente. Se ele tem permissão de responder e enviar anexos, você acabou de dar um megafone pra um estranho.

O denominador comum não é a IA. É a permissão. A IA só ampliou a velocidade com que uma permissão mal configurada vira problema.

Três perguntas antes de ligar qualquer agente

Isso aqui não é checklist de segurança corporativa. É o mínimo que eu faço em qualquer automação que entrego, e leva quinze minutos.

1. Se esse agente enlouquecer, qual é o pior estrago possível? Escreva a resposta. Literalmente. Se a resposta for "manda um e-mail errado", relaxa. Se for "apaga a base de clientes" ou "transfere dinheiro", você precisa de um freio antes de seguir.

2. Ele precisa mesmo escrever, ou só ler? Noventa por cento dos agentes que eu vejo em pequenas e médias empresas só precisam de leitura. Consultar, resumir, avisar. Quem escreve é uma pessoa, depois de olhar. Trocar escrita por leitura elimina a maior parte do risco sem tirar quase nada do valor.

3. Quando ele falhar, você fica sabendo? Não é "se". É "quando". Se o agente errar e ninguém receber um alerta, você vai descobrir pelo cliente reclamando. Ou pior, não vai descobrir.

O aprovador humano precisa ser humano de verdade

Aqui vai minha opinião impopular: revisão automática com carimbo humano é pior que não ter revisão nenhuma. Porque ela produz a sensação de segurança sem a segurança.

Se o seu processo é "a IA sugere, o Fulano aprova" e o Fulano aprova quarenta coisas por dia em três minutos cada, você não tem aprovação. Tem teatro. E teatro custa caro: no momento em que der ruim, todo mundo vai apontar pro Fulano, que na real nunca teve chance de revisar direito.

O jeito certo é separar o que precisa de olho humano do que não precisa. Correção de texto num rodapé? Automático, segue o baile. Qualquer coisa que toque em credencial, permissão, pagamento ou dado de cliente? Para na fila e espera uma pessoa com tempo pra pensar. Menos coisas na fila significa mais atenção em cada uma.

Na prática, isso costuma virar uma regra simples de duas ou três linhas na sua automação. Não é projeto de seis meses.

O consolo: quem foi pego é quem estava olhando

Tem um detalhe da história da Snowflake que eu acho o mais importante de todos, e quase ninguém comenta. Esse buraco só apareceu porque existia um programa pra pesquisadores externos reportarem falhas. Alguém foi lá, procurou, achou, avisou. A empresa corrigiu e deixou publicar.

Ou seja: as empresas que aparecem nesse tipo de notícia geralmente são as que estão fazendo mais que a média, não menos. As que nunca aparecem não são mais seguras. São só menos observadas.

Isso deveria te tranquilizar e te incomodar ao mesmo tempo. Tranquilizar porque errar nesse assunto é normal, ninguém tem isso resolvido. Incomodar porque se a Snowflake, com todo o aparato dela, deixou passar, a sua automação feita às pressas em três tardes provavelmente tem coisa pior. E ninguém está procurando.

Não estou dizendo pra desligar seus agentes. Eu construo automação com IA todo dia e não voltaria atrás. O ganho é grande demais. Estou dizendo pra parar de tratar "a IA sugeriu" como se fosse garantia de qualidade. É uma sugestão. Uma sugestão muito boa, feita por algo que não sabe onde está pisando.

Se você já tem agentes rodando no seu negócio e nunca fez as três perguntas lá de cima, vale meia hora de conversa pra mapear o que está exposto. Costuma ser mais simples de arrumar do que parece, e bem mais barato agora que depois. Me conta o que você automatizou e a gente olha juntos.

A Snowflake levou um furo de segurança por causa de uma correção sugerida por IA que alguém aprovou sem olhar direito.

O detalhe que me pegou: a gente desconfia do que a IA escreve do zero, mas aceita quase de olhos fechados o que ela "conserta". Alerta de vulnerabilidade tem cara de autoridade, e cara de autoridade desliga o senso crítico.

O problema nunca foi a IA. Foi a permissão que ela recebeu.

Três perguntas que eu faço antes de ligar qualquer agente: se ele enlouquecer, qual o pior estrago? Ele precisa escrever mesmo ou só ler? E quando falhar, alguém fica sabendo?

Revisão automática com carimbo humano é pior que revisão nenhuma, porque produz a sensação de segurança sem a segurança.

Se você já tem agente rodando no seu negócio e nunca fez essas perguntas, me conta o que você automatizou. A gente olha juntos.

#IA #AgentesDeIA #Automacao #SegurancaDaInformacao #Tecnologia