Puntos ciegos de la IA: la lección del maestro de Go

¿Alguna vez aprobaste algo que te entregó la IA sin revisarlo? Un texto, una planilla, una respuesta para el cliente. Yo sí. Y la mayoría de las veces salió bien, que es justamente el problema. Porque cuando aparecen los puntos ciegos de la IA, no aparecen como un error obvio. Aparecen como una respuesta bonita, segura y equivocada.

En julio, el surcoreano Shin Jinseo, número 1 del mundo en Go, le ganó a KataGo, uno de los programas más fuertes que existen, en una partida con dos puntos de handicap. Para quien no sigue el tema: desde 2016, cuando AlphaGo venció a Lee Sedol, la cuenta cambió. La máquina le gana al humano en Go. No es discusión, es un hecho consumado. Por eso la noticia dio la vuelta al mundo.

Y yo creo que dice más sobre tu negocio que sobre el tablero.

El marcador no es la parte interesante

Dos puntos de ventaja es muchísimo en Go. Un lector más desconfiado ya va a decir: "entonces no ganó de verdad". Justo. El handicap existe exactamente porque el programa es más fuerte que cualquier persona viva.

Pero fíjate en lo que eso significa en la práctica. Alguien midió la distancia entre humano y máquina, le puso un número y descubrió dónde el humano todavía puede ganar. Esa es una información valiosa. Es distinto de "la IA es mejor" o "la IA es un fraude". Es un mapa.

La mayoría de las empresas con las que hablo no tiene ese mapa. O cree que la IA resuelve todo, o cree que no resuelve nada. Las dos posiciones cuestan dinero.

Máquina fuerte no quiere decir máquina sin agujero

Hay un caso de 2023 que me gusta contar porque es demasiado concreto para ignorarlo.

Investigadores de FAR AI entrenaron un programa solo para encontrarle defectos a KataGo. No para jugar bien. Para encontrar defectos. Encontraron un patrón: si armas un grupo grande y flojo de piedras y lo rodeas por fuera de una forma específica, el programa simplemente no ve la amenaza. Evalúa la posición como tranquila hasta el momento en que ya perdió.

Y ahí viene la parte que asusta. Un jugador aficionado llamado Kellin Pelrine aprendió la maniobra y la aplicó con sus propias manos. Ganó 14 de 15 partidas contra un bot de nivel sobrehumano. Sin computadora ayudándolo durante el juego. Un aficionado venciendo a lo que nadie vencía.

El programa no se volvió débil. Siguió siendo mejor que todo el mundo en el juego normal. Solo que había una puerta lateral, y nadie la había mirado porque todos estaban ocupados admirando la fuerza bruta.

Un sistema fuerte en promedio puede ser desastroso en un caso específico. Y siempre es el caso específico el que aparece frente al cliente.

Dónde pasa esto en tu empresa

Traduciendo a tu día a día, sin tablero.

Pones una IA a responder el chat del sitio. En el 95% de las preguntas lo hace bien. En el otro 5%, inventa un plazo de entrega que no existe, o promete una condición de pago que tú no ofreces. Y lo hace con la misma seguridad que en el otro 95%. No le tiembla la voz.

Pones una IA a clasificar facturas. Funciona de maravilla hasta que llega un proveedor que emite en un formato raro, y empieza a tirar todo en una categoría equivocada. En silencio. Te enteras en el cierre del trimestre.

Pones una IA a filtrar currículums. Aprende del historial. Si el historial tiene sesgo, reproduce el sesgo y encima te da una justificación bien articulada para cada elección.

El patrón siempre es el mismo. El error no grita. Se disfraza de acierto.

Lo que separa a quien gana de quien se quema

La diferencia, en la práctica, no es el modelo elegido. Es quién se tomó el trabajo de buscar la puerta lateral antes de que la encontrara el cliente.

Cuando armo una automatización con IA para alguien, hago tres cosas que parecen aburridas y son las que salvan el proyecto:

• Defino dónde no puede decidir sola. Monto por encima de X, cliente con contrato antiguo, pedido de cancelación, reclamo con tono agresivo. Eso va a una persona. Siempre. La máquina prepara, el humano firma.
• Dejo rastro de todo. Cada respuesta generada queda guardada con lo que entró y lo que salió. Sin eso ni siquiera puedes descubrir que hay un problema, mucho menos arreglarlo.
• Pruebo con los casos feos a propósito. No con los diez ejemplos bonitos. Con la pregunta mal escrita, con el PDF torcido, con el cliente enojado, con el pedido que tiene dos cosas contradictorias adentro.

Ese tercer punto es el equivalente a contratar a Pelrine para que intente tumbarte. Cuesta unas horas. Evita el tipo de error que termina en captura de pantalla en Twitter.

"¿Entonces la IA no vale la pena?"

Vale, y mucho. Yo me gano la vida armando esto.

Solo que la ganancia real casi nunca está en reemplazar a una persona entera. Está en sacar del camino las tareas que a nadie le gusta hacer y que se comen el día. Leer cincuenta correos y separar los tres urgentes. Convertir el audio de una reunión en un resumen con los pendientes. Llenar la primera versión de una propuesta para que alguien la revise en cinco minutos en lugar de escribirla desde cero en una hora.

En esos casos el costo del error es bajo y el revisor humano ya está ahí, natural, sin proceso nuevo. Ahí la cuenta cierra rápido.

El problema aparece cuando la empresa salta directo al "la IA responde al cliente sola" porque leyó en un post que se puede hacer. Sí se puede. Solo que ahí necesitas la parte aburrida, y la parte aburrida es la que nadie publica.

Algo que digo siempre: si no puedes explicar en una frase qué pasa cuando la IA se equivoca, todavía no estás listo para ponerla frente al cliente. No es pesimismo, es la misma pregunta que te harías antes de contratar a un pasante para atender el teléfono.

El humano no quedó como pieza decorativa

Shin Jinseo no ganó porque sea más rápido que un servidor. Ganó porque entiende el juego de una forma que le permite formular una pregunta que la máquina no sabe responder bien.

Ese es exactamente tu papel ahora. Tú conoces a tu cliente, tu sector, las excepciones, los acuerdos que no están escritos en ningún lado. La IA no conoce nada de eso. Conoce patrones. Y tu negocio está hecho tanto de patrón como de excepción.

La persona que solo sabe usar la herramienta se vuelve un commodity rápido, porque la herramienta está disponible para todo el mundo al mismo precio. Quien sabe dónde falla la herramienta y arma el proceso alrededor de eso, esa persona se vuelve valiosa. La ventaja no está en el acceso. Está en el criterio.

Vale para un jugador de Go y vale para quien tiene una empresa de doce personas.

Si estás pensando en meter IA en alguna parte de tu proceso y quieres hacerlo sin descubrir los agujeros junto con el cliente, cuéntame qué tienes en mano. Yo suelo empezar por la pregunta más útil de todas: ¿qué pasa el día en que esto falle?

¿Alguna vez aprobaste algo que te entregó la IA sin revisarlo? Yo sí.

Y salió bien casi siempre, que es justamente el problema. El error de la IA no grita. Llega bonito, seguro y equivocado.

En 2023, unos investigadores encontraron una grieta en KataGo, uno de los programas más fuertes del mundo en Go. Un aficionado aprendió la maniobra y ganó 14 de 15 partidas contra un bot sobrehumano. Sin computadora ayudándolo.

El sistema no se volvió débil. Solo había una puerta lateral, y nadie la había mirado.

En tu empresa pasa lo mismo: la IA acierta el 95% del chat y en el otro 5% inventa un plazo que tú no manejas, con la misma seguridad de siempre.

Si no puedes explicar en una frase qué pasa cuando la IA se equivoca, todavía no está lista para estar frente al cliente.

¿Estás pensando en meter IA en alguna parte del proceso? Cuéntame qué tienes en mano. Yo siempre empiezo por la misma pregunta: ¿qué pasa el día en que esto falle?

#InteligenciaArtificial #Automatizacion #Tecnologia #PequenasEmpresas #IAenElNegocio