Vigilancia predictiva con IA: el riesgo que te toca a ti

Contrataste una IA para resumir reuniones. Lee a todo el que habla, transcribe y guarda. Ahora imagina que el mismo tipo de sistema, en manos de otra persona, fue contratado para predecir quién va a protestar antes de protestar. No es ficción. Fue lo que The American Prospect informó sobre Anthropic construyendo un sistema de vigilancia predictiva para monitorear activistas en contrato con organismos de seguridad de EE. UU.

Vigilancia predictiva con IA es exactamente lo que dice el nombre: juntar montañas de datos sobre personas y pedirle al modelo que señale quién probablemente va a hacer algo. No lo que hizo. Lo que va a hacer. Y si eso suena lejano de tu negocio, quédate conmigo, porque la distancia es menor de lo que parece.

Lo que de verdad cambió en esa noticia

La vigilancia de Estado no es novedad. Lo que cambió es la barrera de entrada.

Antes, cruzar datos de miles de personas exigía un equipo grande, presupuesto y meses de trabajo. Hoy exige una API, una buena base de datos y un prompt bien escrito. La misma tecnología que resume tu contrato de 40 páginas en tres párrafos logra leer 40 mil mensajes y armar un perfil de comportamiento.

Anthropic, vale decir, es la empresa que más vende "IA segura" y "constitutional AI" en el mercado. Es la que escribe manifiestos sobre riesgo existencial. Que sea esa la empresa en el centro de un contrato de monitoreo de activistas dice algo importante: una política de uso escrita en el sitio no garantiza nada. Un contrato grande cambia la política.

No estoy diciendo que Anthropic sea villana y las demás sean santas. Estoy diciendo lo contrario: si la más cuidadosa hace esto, deja de tratar la reputación del proveedor como una capa de seguridad.

Por qué esto te afecta aunque no trabajes con el gobierno

Tres motivos prácticos.

El primero es que ya haces vigilancia predictiva sin llamarla por ese nombre. El score de crédito es predicción de comportamiento. Un sistema que marca a un cliente como "probable churn" es predicción de comportamiento. Una herramienta de RR. HH. que rankea currículums es predicción de comportamiento. La diferencia entre eso y el caso de la noticia es escala y consecuencia, no técnica.

El segundo es la regulación por contagio. Cuando estalla un caso así, el legislador no usa bisturí, usa mazo. La ley brasileña de protección de datos ya tiene el artículo 20, que da al titular el derecho de pedir revisión de decisiones automatizadas que afecten sus intereses. Normas equivalentes existen en toda América Latina y en el RGPD europeo. Si tienes cualquier sistema que decide algo sobre una persona sin un humano en el medio, ya estás en esa mira. El apretón de reglas no va a preguntar si tu intención era buena.

El tercero es el más molesto: tus datos pueden estar del otro lado. Si usas una herramienta que envía datos de clientes a una API de IA, no sabes qué pasa después. Sabes lo que dice el contrato. No es lo mismo.

La política de privacidad es una promesa. La arquitectura es una garantía.

La prueba de una pregunta

La uso con clientes y resuelve el 80% de las dudas. La pregunta es:

Si esta base de datos se filtrara mañana, y alguien corriera un modelo sobre ella para predecir el comportamiento de las personas listadas, ¿qué saldría?

Hice ese ejercicio con una clínica. Tenían un sistema simple de agendamiento, nada sofisticado. Solo que el campo "observaciones" tenía años de anotación libre de la recepción. Cosas como "la paciente vino llorando", "el marido no puede saberlo", "siempre atrasa el pago". Nadie diseñó eso como base de datos sensible. Se volvió una, por acumulación.

No había nada de IA en el sistema. Pero si alguien apuntaba un modelo a ese campo, lograba armar un perfil psicológico y financiero de 3 mil personas en una tarde.

La corrección no fue ningún proyecto de seis meses. Fue separar el campo libre en categorías cerradas, archivar el historial antiguo en una base separada con acceso restringido, y definir un plazo de descarte. Dos semanas de trabajo. El riesgo bajó de "catastrófico" a "molesto".

Qué hacer en la práctica

Nada de esto necesita un comité de ética ni una consultoría de medio millón.

• Haz el inventario de lo que mandas para afuera. Toda herramienta con IA que usas: ¿qué recibe? ¿Nombre completo? ¿Documento de identidad? ¿Contenido de conversación con el cliente? Escríbelo en una planilla. La mayoría de las empresas no sabe responder eso, y ese es el problema entero.
• Activa la retención cero donde exista. OpenAI, Anthropic y Google ofrecen modo sin retención de datos en los planes de API y empresariales. Por lo general es una configuración, no un contrato nuevo. Mucha gente paga por eso y nunca lo activa.
• Minimiza antes de enviar. Si la IA necesita clasificar el sentimiento de un ticket, no necesita el nombre del cliente. Quítalo. Sustitúyelo por un identificador. Es media hora de trabajo y cambia la naturaleza del riesgo.
• El humano decide, la IA sugiere. En cualquier decisión que afecte a una persona (crédito, contratación, cancelación, precio), la IA entrega la sugerencia con justificación y un humano firma. Eso te pone del lado correcto de la ley y, de paso, atrapa errores de modelo antes de que se vuelvan un juicio.
• Define un plazo de descarte y cúmplelo. El dato que ya no existe no se filtra, no es citado judicialmente y no alimenta ninguna predicción. Guardar todo para siempre es la decisión más cara que existe, y nadie la toma a propósito.
• Escribe lo que no vas a hacer. Una página. "No usamos IA para predecir comportamiento individual de clientes fuera de X." Sirve de freno cuando alguien entusiasmado proponga la idea en una reunión.

La objeción que siempre aparece

"Diego, esto me va a atrasar. El competidor va a usar todo y pasarme por delante."

Tal vez. Por un tiempo.

Solo que el cálculo está incompleto. Un sistema que decide sobre personas sin rastro de justificación es una bomba de efecto retardado. Cuando sale mal, sale mal de una forma que no puedes explicar, porque ni tú sabes por qué el modelo decidió eso. Ya vi a una empresa pasar tres semanas intentando reconstruir la lógica de un rechazo automático para responder a una queja en el organismo de defensa del consumidor. Tres semanas de equipo senior. El "atraso" que habrían evitado era de dos días.

Y está el lado comercial. El cliente corporativo ya pregunta por dónde transitan sus datos. Quien responde con claridad cierra el contrato. Quien responde "creo que queda en la nube" pierde. La gobernanza de datos se volvió argumento de venta en B2B, no solo un ítem de compliance.

El punto que importa

La noticia sobre vigilancia predictiva no es sobre Anthropic. Es sobre el hecho de que el poder de predecir comportamiento humano a escala se volvió barato y accesible, y nadie acordó las reglas antes.

No controlas lo que una empresa de IA hace con un contrato de gobierno. Controlas lo que sale de tu empresa, cuánto tiempo queda guardado, y quién firma las decisiones. ¿Es poco? Sí. Pero es la parte que es tuya, y la mayoría de las empresas no cuidó ni siquiera eso.

El trabajo es sin glamour: inventario, minimización, plazo de descarte, humano en el loop. Nada de eso rinde un post bonito en LinkedIn. Rinde dormir tranquilo cuando salga el próximo titular.

Si usas IA en tu negocio y no sabes responder qué datos salen por la puerta, este es el momento de mirar. Cuéntame qué estás usando y lo mapeamos juntos, sin convertirlo en un proyecto de un año.

Anthropic, la empresa que más habla de "IA segura", apareció en un contrato de vigilancia predictiva para monitorear activistas.

Y la lección no es sobre Anthropic. Es que predecir comportamiento humano a escala se volvió barato: antes exigía un equipo y meses, hoy exige una API y un prompt bien escrito.

Si crees que esto no te toca, haz la prueba de una pregunta: si tu base se filtrara mañana y alguien corriera un modelo sobre ella, ¿qué saldría?

Lo hice con una clínica. El campo "observaciones" tenía años de anotación libre de la recepción. Nadie diseñó eso como dato sensible. Lo fue, por acumulación. Dos semanas de trabajo bajaron el riesgo de catastrófico a molesto.

La política de privacidad es una promesa. La arquitectura es una garantía.

Si usas IA en tu negocio y no sabes responder qué datos salen por la puerta, es hora de mirar. Cuéntame qué estás usando y lo mapeamos juntos.

#IA #ProteccionDeDatos #PrivacidadDeDatos #GobernanzaDeDatos #Tecnologia