Pontos cegos da IA: a lição do mestre de Go

Você já aprovou alguma coisa que a IA te entregou sem conferir? Um texto, uma planilha, uma resposta pro cliente. Eu já. E a maioria das vezes deu certo, o que é justamente o problema. Porque quando os pontos cegos da IA aparecem, eles não aparecem como um erro óbvio. Aparecem como uma resposta bonita, confiante e errada.

Em julho, o sul-coreano Shin Jinseo, número 1 do mundo no Go, venceu o KataGo, um dos programas mais fortes que existem, numa partida com dois pontos de handicap. Pra quem não acompanha: desde 2016, quando o AlphaGo bateu Lee Sedol, a conta virou. Máquina ganha de humano no Go. Não é discussão, é fato consumado. Por isso a notícia viajou o mundo.

E eu acho que ela diz mais sobre o seu negócio do que sobre tabuleiro.

O placar não é a parte interessante

Dois pontos de vantagem é muita coisa no Go. Um leitor mais desconfiado já vai dizer: "então ele não ganhou de verdade". Justo. O handicap existe exatamente porque o programa é mais forte que qualquer pessoa viva.

Mas repare no que isso significa na prática. Alguém mediu a distância entre humano e máquina, colocou um número nela, e descobriu onde o humano ainda consegue vencer. Isso é uma informação valiosa. É diferente de "a IA é melhor" ou "a IA é uma fraude". É um mapa.

A maioria das empresas que eu converso não tem esse mapa. Ou acha que a IA resolve tudo, ou acha que não resolve nada. As duas posições custam dinheiro.

Máquina forte não quer dizer máquina sem buraco

Tem um caso de 2023 que eu gosto de contar porque é concreto demais pra ignorar.

Pesquisadores da FAR AI treinaram um programa só pra achar defeito no KataGo. Não pra jogar bem. Pra achar defeito. Eles encontraram um padrão: se você monta um grupo grande e frouxo de pedras e cerca ele por fora de um jeito específico, o programa simplesmente não enxerga a ameaça. Ele avalia a posição como tranquila até o momento em que já perdeu.

Aí veio a parte que assusta. Um jogador amador chamado Kellin Pelrine aprendeu a manobra e aplicou com as próprias mãos. Ganhou 14 de 15 partidas contra um bot de nível sobre-humano. Sem computador ajudando durante o jogo. Um amador batendo o que ninguém batia.

O programa não ficou fraco. Ele continuou melhor que todo mundo no jogo normal. Só que existia uma porta lateral, e ninguém tinha olhado pra ela porque todo mundo estava ocupado admirando a força bruta.

Sistema forte na média pode ser desastroso num caso específico. E é sempre o caso específico que aparece na frente do cliente.

Onde isso acontece na sua empresa

Traduzindo pro seu dia a dia, sem tabuleiro.

Você coloca uma IA pra responder o chat do site. Em 95% das perguntas ela vai bem. Nos outros 5%, ela inventa um prazo de entrega que não existe, ou promete uma condição de pagamento que você não oferece. Ela faz isso com a mesma segurança das outras 95%. Não tem tremida na voz.

Você coloca uma IA pra classificar notas fiscais. Funciona lindamente até chegar um fornecedor que emite num formato esquisito, e ela começa a jogar tudo numa categoria errada. Silenciosamente. Você descobre no fechamento do trimestre.

Você coloca uma IA pra triar currículos. Ela aprende com o histórico. Se o histórico tem viés, ela reproduz o viés e ainda te dá uma justificativa articulada pra cada escolha.

O padrão é sempre o mesmo. O erro não grita. Ele se disfarça de acerto.

O que separa quem lucra de quem se queima

A diferença, na prática, não é o modelo escolhido. É quem se deu ao trabalho de procurar a porta lateral antes do cliente encontrar.

Quando eu monto uma automação com IA pra alguém, eu faço três coisas que parecem chatas e são as que salvam o projeto:

• Defino onde ela não pode decidir sozinha. Valor acima de X, cliente de contrato antigo, pedido de cancelamento, reclamação com tom agressivo. Isso vai pra uma pessoa. Sempre. A máquina prepara, o humano assina.
• Deixo rastro de tudo. Toda resposta gerada fica gravada com o que entrou e o que saiu. Sem isso você não consegue nem descobrir que tem um problema, quanto mais consertar.
• Testo com os casos feios de propósito. Não com os dez exemplos bonitinhos. Com a pergunta mal escrita, com o PDF torto, com o cliente irritado, com o pedido que tem duas coisas contraditórias dentro.

Esse terceiro item é o equivalente a contratar o Pelrine pra tentar te derrubar. Custa umas horas. Evita o tipo de erro que vira print no Twitter.

"Então a IA não vale a pena?"

Vale, e muito. Eu ganho a vida montando isso.

Só que o ganho real quase nunca está em substituir uma pessoa inteira. Está em tirar do caminho as tarefas que ninguém gosta de fazer e que consomem o dia. Ler cinquenta e-mails e separar os três urgentes. Transformar um áudio de reunião em um resumo com as pendências. Preencher a primeira versão de uma proposta pra alguém revisar em cinco minutos em vez de escrever do zero em uma hora.

Nesses casos o custo do erro é baixo e o revisor humano já está ali, natural, sem processo novo. É onde a conta fecha rápido.

O problema aparece quando a empresa pula direto pro "a IA responde o cliente sozinha" porque leu num post que dá pra fazer. Dá pra fazer. Só que aí você precisa da parte chata, e a parte chata é o que ninguém posta.

Uma coisa que eu falo sempre: se você não consegue explicar em uma frase o que acontece quando a IA erra, você ainda não está pronto pra colocar ela na frente do cliente. Não é pessimismo, é a mesma pergunta que você faria antes de contratar um estagiário pra atender telefone.

O humano não virou peça decorativa

Shin Jinseo não venceu porque é mais rápido que um servidor. Ele venceu porque entende o jogo de um jeito que permite formular uma pergunta que a máquina não sabe responder direito.

Isso é exatamente o seu papel agora. Você conhece o seu cliente, o seu setor, as exceções, os acordos que não estão escritos em lugar nenhum. A IA não conhece nada disso. Ela conhece padrão. E o seu negócio é feito tanto de padrão quanto de exceção.

A pessoa que só sabe usar a ferramenta vira commodity rápido, porque a ferramenta está disponível pra todo mundo pelo mesmo preço. Quem sabe onde a ferramenta falha e monta o processo em volta disso, essa pessoa fica valiosa. A vantagem não está no acesso. Está no julgamento.

Vale pra jogador de Go e vale pra quem tem uma empresa de doze pessoas.

Se você está pensando em colocar IA em alguma parte do seu processo e quer fazer isso sem descobrir os buracos junto com o cliente, me conta o que você tem em mãos. Eu costumo começar pela pergunta mais útil de todas: o que acontece no dia em que isso errar?

Você já aprovou algo que a IA te entregou sem conferir? Eu já.

E deu certo quase sempre, que é justamente o problema. O erro da IA não grita. Ele chega bonito, confiante e errado.

Em 2023, pesquisadores acharam uma brecha no KataGo, um dos programas mais fortes do mundo no Go. Um amador aprendeu a manobra e ganhou 14 de 15 partidas contra um bot sobre-humano. Sem computador ajudando.

O sistema não ficou fraco. Só existia uma porta lateral, e ninguém tinha olhado pra ela.

Na sua empresa é igual: a IA acerta 95% do chat e nos outros 5% inventa um prazo que você não pratica, com a mesma segurança de sempre.

Se você não consegue explicar em uma frase o que acontece quando a IA erra, ela ainda não está pronta pra ficar na frente do cliente.

Tá pensando em colocar IA em alguma parte do processo? Me conta o que você tem em mãos. Eu começo sempre pela mesma pergunta: o que acontece no dia em que isso errar?

#InteligenciaArtificial #Automacao #Tecnologia #PequenasEmpresas #IAnoNegocio