O que a derrota da IA no Go ensina sobre negócios

Você já aprovou um relatório que a IA escreveu sem conferir os números? Eu já. Deu errado uma vez, e foi o suficiente pra eu mudar meu jeito de trabalhar. Esse artigo é sobre o momento em que a IA erra e ninguém percebe, e sobre uma partida de Go que explica isso melhor do que qualquer whitepaper.

Em julho, o sul-coreano Shin Jinseo, número um do mundo em Go, venceu o KataGo, um dos programas de Go mais fortes que existem, jogando com dois pedras de handicap. Handicap, no Go, é vantagem inicial. Ele recebeu a vantagem e ganhou. Não é o humano "derrotando a máquina" de igual pra igual, e quem vender essa história tá exagerando. Mas é um dado interessante, porque desde 2016 a narrativa era outra: a IA passou o humano no Go e nunca mais olhou pra trás.

O que realmente aconteceu na partida

Vale separar o fato da manchete.

O KataGo continua mais forte que qualquer ser humano em uma partida sem vantagem. Isso não mudou. O que mudou é que os melhores jogadores do mundo passaram nove anos estudando os jogos da IA, absorvendo o estilo dela e aprendendo onde ela hesita. Shin não venceu por força bruta. Venceu porque conhece o adversário.

E tem um precedente ainda mais estranho. Em 2023, um pesquisador chamado Kellin Pelrine, jogador amador de nível bom mas nada excepcional, venceu versões de topo do KataGo em quinze de dezesseis partidas. Não porque jogava melhor. Porque um grupo de pesquisa treinou um programa adversário só pra procurar buracos na IA, achou um padrão específico que ela não enxergava, e o Pelrine executou esse padrão à mão.

Um amador ganhou de uma IA sobre-humana usando um truque de três movimentos. A IA não jogou pior naquele dia. Ela sempre teve aquele buraco. Ninguém tinha procurado.

Por que isso importa pra quem nunca jogou Go

Go é o ambiente mais limpo que existe pra testar inteligência artificial. Regras fixas, informação completa, resultado objetivo. Sem cliente mudando de ideia, sem planilha mal preenchida, sem fornecedor que responde por WhatsApp.

Se a IA tem pontos cegos nesse ambiente, imagina no seu.

Sua empresa não é um tabuleiro. É um lugar onde o cadastro tem CNPJ digitado errado, o vendedor anota o pedido no caderno, e a regra de desconto tem uma exceção que só o Márcio do financeiro conhece. Toda IA que você colocar ali vai operar em cima desse caos.

A IA não erra onde você está olhando. Ela erra onde ninguém pensou em olhar.

O ponto cego é sempre o mesmo: a média contra a borda

Modelo de IA é uma máquina de padrão. Ele aprende o que acontece com frequência e fica excelente nisso. O problema mora no caso raro.

Vi isso na prática num projeto de classificação de pedidos. O sistema separava pedidos por tipo de serviço, e acertava 96% das vezes. Número lindo de apresentar. Só que os 4% restantes não eram aleatórios: eram quase todos pedidos grandes, com escopo misto, dos clientes que mais faturavam. Os casos difíceis eram exatamente os casos caros.

Ninguém tinha percebido porque o painel mostrava a taxa de acerto global. 96% parece ótimo até você descobrir que os erros estão concentrados justamente onde dói.

A lição do Go é essa. O KataGo tinha uma taxa de vitória astronômica contra humanos. E tinha, ao mesmo tempo, uma falha estrutural que um amador conseguia explorar. As duas coisas eram verdade juntas.

"Mas a IA não vai só melhorar e resolver isso?"

Vai melhorar, sim. E é exatamente aí que mora a armadilha.

Cada versão nova tapa os buracos conhecidos. Depois que a falha do Pelrine virou pública, a equipe do KataGo treinou o modelo contra aquele ataque específico e ele parou de funcionar. Ótimo. Só que o mesmo grupo de pesquisa voltou depois e encontrou falhas novas, diferentes.

Não é um bug que se conserta uma vez. É uma característica do jeito que esses sistemas aprendem. Você fecha uma porta, aparece outra.

Isso não é motivo pra não usar IA. É motivo pra parar de tratar "a IA está melhor agora" como se fosse resposta pra "como sei que ela está certa neste caso". São perguntas diferentes.

O que fazer na prática na sua empresa

Não precisa de comitê de governança nem de política de 40 páginas. Precisa de quatro hábitos.

Separe as decisões por custo do erro. Se a IA erra ao sugerir o assunto de um e-mail, você reescreve e segue. Se ela erra ao aprovar um crédito, ao classificar uma nota fiscal ou ao responder um cliente irritado, o estrago é outro. Automatize com folga o primeiro grupo. No segundo, mantenha um humano no caminho.

Meça o erro onde ele dói, não na média. Pare de olhar só a taxa de acerto geral. Quebre por segmento: por tamanho de cliente, por tipo de pedido, por valor. Aquele projeto de 96% virou útil no dia em que começamos a medir separado os pedidos acima de dez mil reais.

Deixe o sistema dizer que não sabe. A pior IA é a que responde com confiança total sobre algo que não conhece. Um bom desenho tem uma saída: quando a confiança cai abaixo de um limite, o caso vai pra fila humana. É simples de implementar e economiza mais dor de cabeça do que qualquer ajuste fino de modelo.

Ataque seu próprio sistema uma vez por trimestre. Pegue vinte casos estranhos de verdade, aqueles que o pessoal do atendimento comenta no cafezinho, e rode na IA. É o que a FAR AI fez com o KataGo. Não precisa de laboratório de pesquisa, precisa de duas horas e de alguém que conheça as exceções do negócio.

O detalhe que quase ninguém comenta

Tem uma parte da história do Shin que eu acho mais interessante que a vitória em si.

Ele treina com IA há anos. O estilo dele mudou por causa disso. Vários movimentos que hoje são padrão entre profissionais vieram de partidas de máquina que ninguém entendia em 2017. Ou seja: o humano que venceu a IA é um humano que a IA deixou mais forte.

Essa é a versão realista do futuro, e é bem menos dramática que os dois extremos que você lê por aí. Nem a máquina substituiu o jogador, nem o jogador ignorou a máquina. Ele usou a máquina até conhecê-la bem o bastante pra saber onde ela tropeça.

É assim que penso quando monto automação pra um cliente. A IA faz o volume, o trabalho repetitivo, a primeira versão. A pessoa faz o julgamento, o caso torto, a decisão que tem nome e sobrenome do lado. Quem sabe onde traçar essa linha ganha nos dois lados. Quem entrega tudo pra máquina acaba descobrindo o ponto cego do jeito mais caro: com um cliente reclamando.

Se você está colocando IA em algum processo da sua empresa e não sabe direito onde ela pode te trair, vale conversar antes de descobrir na prática. Dá uma olhada em como eu trabalho.

Já aprovei relatório feito por IA sem conferir os números. Deu ruim uma vez, e foi o suficiente.

Em julho o número 1 do mundo em Go venceu o KataGo com handicap. Antes disso, em 2023, um amador ganhou 15 de 16 partidas contra a mesma IA usando um truque de três movimentos. A IA não piorou naquele dia. O buraco sempre esteve lá, ninguém tinha procurado.

Vi isso num projeto real: 96% de acerto na classificação de pedidos. Número lindo. Só que os 4% de erro eram justamente os pedidos grandes, dos clientes que mais faturavam.

A IA não erra onde você está olhando. Ela erra onde ninguém pensou em olhar.

Meça o erro por segmento, não na média. E uma vez por trimestre, pegue vinte casos estranhos de verdade e jogue no seu sistema. Duas horas de trabalho, muita dor de cabeça evitada.

Se você está colocando IA num processo e não sabe onde ela pode te trair, me chama antes de descobrir com um cliente reclamando.

#InteligenciaArtificial #Automacao #Gestao #TransformacaoDigital