Lo que la derrota de la IA en el Go enseña sobre negocios

¿Alguna vez aprobaste un informe que escribió la IA sin revisar los números? Yo sí. Salió mal una vez, y fue suficiente para cambiar mi forma de trabajar. Este artículo es sobre el momento en que la IA falla y nadie se da cuenta, y sobre una partida de Go que lo explica mejor que cualquier whitepaper.

En julio, el surcoreano Shin Jinseo, número uno del mundo en Go, venció a KataGo, uno de los programas de Go más fuertes que existen, jugando con dos piedras de ventaja. La ventaja, en el Go, es una compensación inicial. Él la recibió y ganó. No es el humano "derrotando a la máquina" de igual a igual, y quien venda esa historia está exagerando. Pero es un dato interesante, porque desde 2016 la narrativa era otra: la IA superó al humano en el Go y nunca más miró atrás.

Lo que realmente pasó en la partida

Vale separar el hecho del titular.

KataGo sigue siendo más fuerte que cualquier ser humano en una partida sin ventaja. Eso no cambió. Lo que cambió es que los mejores jugadores del mundo pasaron nueve años estudiando las partidas de la IA, absorbiendo su estilo y aprendiendo dónde duda. Shin no ganó por fuerza bruta. Ganó porque conoce al adversario.

Y hay un precedente todavía más raro. En 2023, un investigador llamado Kellin Pelrine, jugador aficionado de buen nivel pero nada excepcional, venció a versiones de punta de KataGo en quince de dieciséis partidas. No porque jugara mejor. Porque un grupo de investigación entrenó un programa adversario solo para buscar agujeros en la IA, encontró un patrón específico que ella no veía, y Pelrine ejecutó ese patrón a mano.

Un aficionado le ganó a una IA sobrehumana usando un truco de tres movimientos. La IA no jugó peor ese día. Siempre tuvo ese agujero. Nadie lo había buscado.

Por qué esto importa para quien nunca jugó Go

El Go es el entorno más limpio que existe para probar inteligencia artificial. Reglas fijas, información completa, resultado objetivo. Sin clientes cambiando de idea, sin planillas mal llenadas, sin proveedores que responden por WhatsApp.

Si la IA tiene puntos ciegos en ese entorno, imagina en el tuyo.

Tu empresa no es un tablero. Es un lugar donde el registro tiene el CNPJ mal escrito, el vendedor anota el pedido en un cuaderno, y la regla de descuento tiene una excepción que solo Márcio, el de finanzas, conoce. Toda IA que pongas ahí va a operar sobre ese caos.

La IA no falla donde estás mirando. Falla donde nadie pensó en mirar.

El punto ciego es siempre el mismo: el promedio contra el borde

Un modelo de IA es una máquina de patrones. Aprende lo que ocurre con frecuencia y se vuelve excelente en eso. El problema vive en el caso raro.

Lo vi en la práctica en un proyecto de clasificación de pedidos. El sistema separaba pedidos por tipo de servicio, y acertaba el 96% de las veces. Un número precioso para presentar. Solo que el 4% restante no era aleatorio: eran casi todos pedidos grandes, con alcance mixto, de los clientes que más facturaban. Los casos difíciles eran exactamente los casos caros.

Nadie se había dado cuenta porque el panel mostraba la tasa de acierto global. El 96% parece óptimo hasta que descubres que los errores están concentrados justo donde duele.

La lección del Go es esa. KataGo tenía una tasa de victoria astronómica contra humanos. Y tenía, al mismo tiempo, una falla estructural que un aficionado lograba explotar. Las dos cosas eran verdad a la vez.

"¿Pero la IA no va a mejorar y resolver eso?"

Va a mejorar, sí. Y ahí es exactamente donde está la trampa.

Cada versión nueva tapa los agujeros conocidos. Después de que la falla de Pelrine se hizo pública, el equipo de KataGo entrenó el modelo contra ese ataque específico y dejó de funcionar. Excelente. Solo que el mismo grupo de investigación volvió después y encontró fallas nuevas, diferentes.

No es un bug que se arregla una vez. Es una característica de la forma en que estos sistemas aprenden. Cierras una puerta, aparece otra.

Eso no es motivo para no usar IA. Es motivo para dejar de tratar "la IA está mejor ahora" como si fuera respuesta a "cómo sé que está en lo correcto en este caso". Son preguntas diferentes.

Qué hacer en la práctica en tu empresa

No necesitas un comité de gobernanza ni una política de 40 páginas. Necesitas cuatro hábitos.

Separa las decisiones por costo del error. Si la IA se equivoca al sugerir el asunto de un correo, lo reescribes y sigues. Si se equivoca al aprobar un crédito, al clasificar una factura o al responderle a un cliente molesto, el estrago es otro. Automatiza con holgura el primer grupo. En el segundo, mantén a un humano en el camino.

Mide el error donde duele, no en el promedio. Deja de mirar solo la tasa de acierto general. Divide por segmento: por tamaño de cliente, por tipo de pedido, por valor. Aquel proyecto del 96% se volvió útil el día en que empezamos a medir por separado los pedidos arriba de diez mil reales.

Deja que el sistema diga que no sabe. La peor IA es la que responde con total confianza sobre algo que no conoce. Un buen diseño tiene una salida: cuando la confianza cae por debajo de un límite, el caso va a la fila humana. Es simple de implementar y ahorra más dolor de cabeza que cualquier ajuste fino de modelo.

Ataca tu propio sistema una vez por trimestre. Agarra veinte casos raros de verdad, esos que la gente de atención comenta en el cafecito, y pásalos por la IA. Es lo que hizo FAR AI con KataGo. No hace falta un laboratorio de investigación, hacen falta dos horas y alguien que conozca las excepciones del negocio.

El detalle que casi nadie comenta

Hay una parte de la historia de Shin que me parece más interesante que la victoria en sí.

Entrena con IA desde hace años. Su estilo cambió por eso. Varios movimientos que hoy son estándar entre profesionales vinieron de partidas de máquina que nadie entendía en 2017. O sea: el humano que venció a la IA es un humano al que la IA hizo más fuerte.

Esa es la versión realista del futuro, y es bastante menos dramática que los dos extremos que se leen por ahí. Ni la máquina reemplazó al jugador, ni el jugador ignoró a la máquina. Usó la máquina hasta conocerla lo suficiente para saber dónde tropieza.

Así pienso cuando armo una automatización para un cliente. La IA hace el volumen, el trabajo repetitivo, la primera versión. La persona hace el juicio, el caso torcido, la decisión que tiene nombre y apellido al lado. Quien sabe dónde trazar esa línea gana por los dos lados. Quien le entrega todo a la máquina termina descubriendo el punto ciego de la forma más cara: con un cliente reclamando.

Si estás metiendo IA en algún proceso de tu empresa y no sabes bien dónde puede traicionarte, vale la pena conversar antes de descubrirlo en la práctica. Mira cómo trabajo.

Ya aprobé un informe hecho por IA sin revisar los números. Salió mal una vez, y fue suficiente.

En julio el número 1 del mundo en Go venció a KataGo con ventaja inicial. Antes de eso, en 2023, un aficionado ganó 15 de 16 partidas contra la misma IA usando un truco de tres movimientos. La IA no empeoró ese día. El agujero siempre estuvo ahí, nadie lo había buscado.

Vi esto en un proyecto real: 96% de acierto en la clasificación de pedidos. Número precioso. Solo que el 4% de error eran justamente los pedidos grandes, de los clientes que más facturaban.

La IA no falla donde estás mirando. Falla donde nadie pensó en mirar.

Mide el error por segmento, no en el promedio. Y una vez por trimestre, agarra veinte casos raros de verdad y méteselos a tu sistema. Dos horas de trabajo, mucho dolor de cabeza evitado.

Si estás metiendo IA en un proceso y no sabes dónde puede traicionarte, escríbeme antes de descubrirlo con un cliente reclamando.

#InteligenciaArtificial #Automatizacion #Gestion #TransformacionDigital