Agentes de IA locales: cuando la IA sale de la nube

¿Ya hiciste la cuenta de cuánto gastas en API de IA por mes? Yo sí. En un cliente, el número saltó de 90 reales a 1.100 en seis semanas. Nada se había roto. El agente simplemente empezó a correr todo el día, revisando correo, clasificando pedido, actualizando planilla. Cada chequeo, unos centavos. Multiplica por 4 mil chequeos por día y la cuenta aparece. Ahí es donde los agentes de IA locales dejan de ser charla de nerd y se vuelven asunto de gestión.

Meta anunció el Muse Glimmer, un modelo de 30 mil millones de parámetros hecho justamente para eso: agente siempre encendido, corriendo en tu máquina. No es el modelo más inteligente del mundo. No fue hecho para serlo. Fue hecho para quedarse de guardia sin cobrar por hora.

Qué cambia cuando el agente corre en tu máquina

Hoy, cuando usas una automatización con IA, el camino normal es este: tu información sale de tu empresa, va a un servidor en Estados Unidos, se procesa, vuelve. Funciona bien. Pero tiene tres peajes.

El primero es dinero. Pagas por uso. Automatización que corre todo el tiempo es automatización que cobra todo el tiempo.

El segundo es latencia. Cada ida y vuelta lleva de medio segundo a algunos segundos. Parece poco. En un flujo con doce etapas, se vuelve medio minuto de espera.

El tercero es el dato. Contrato de cliente, ficha de paciente, planilla de sueldos. Todo eso viajando hacia afuera. Se puede hacer con seguridad, pero da trabajo, y en sector regulado es una conversación larga con el área legal.

Corriendo local, los tres peajes desaparecen de una vez. El costo se vuelve el costo de la máquina, que es fijo. La respuesta llega en milisegundos. Y el dato no sale de tu red.

Por qué 30 mil millones de parámetros y no 500

Voy a traducir el número. Parámetro es más o menos el "tamaño del cerebro" del modelo. Los modelos gigantes de nube tienen cientos de miles de millones. Un modelo de 30 mil millones cabe en una placa de video de unos 24 GB. Una computadora que cuesta entre 15 y 30 mil reales, según la configuración.

La pregunta obvia: ¿un modelo menor no es peor?

Lo es. En razonamiento complejo, análisis largo, código difícil, los grandes ganan fácil. Pero fíjate en lo que una automatización de empresa realmente hace todo el día:

• Leer un correo y decidir si es cotización, soporte o spam
• Extraer identificación fiscal, monto y vencimiento de un PDF de factura
• Verificar si el formulario llenado tiene todo lo que necesita
• Disparar la siguiente etapa cuando una condición se cumple

Ninguna de esas tareas exige genialidad. Exige consistencia y disponibilidad. Es trabajo de pasante aplicado, no de consultor sénior. Usar un modelo tope de línea para eso es como contratar a un abogado tributarista para revisar si la boleta tiene código de barras.

La buena automatización no es la más inteligente. Es la que nunca pide permiso para correr.

El modelo híbrido, que es donde la cosa realmente funciona

Aquí va mi opinión fuerte: casi nadie debería elegir entre local y nube. La respuesta correcta es usar los dos, con una regla de quién hace qué.

En la práctica, lo monto así:

El agente local queda de guardia. Observa, filtra, clasifica, ejecuta lo que es rutina. Corre 24 horas por día y cuesta lo mismo corriendo o detenido.

Cuando aparece algo fuera del estándar, escala. Manda solo ese caso a un modelo grande en la nube, que resuelve lo difícil y devuelve.

El resultado numérico es lindo. En un flujo de filtrado de correo que armé, el 91% de los mensajes se resolvía localmente. Solo el 9% subía. La cuenta de API cayó de 1.100 a cerca de 130 reales por mes. La máquina local se pagó en cinco meses y después se volvió ganancia.

Y hay un efecto secundario que nadie espera: el sistema quedó más confiable. Cuando la API de la nube se cayó un martes, el agente local siguió filtrando. Solo la fila de casos complejos se detuvo. El negocio no se detuvo.

Dónde esto no vale la pena

No voy a vender maravillas. El agente local es malo en tres situaciones.

Volumen bajo. Si tu automatización corre 50 veces por día, gastas 8 reales por mes en API. Comprar una máquina de 20 mil para ahorrar 8 reales es el tipo de decisión que se cuenta en una charla de bar.

Ningún equipo de tecnología. Local significa que alguien necesita cuidarlo. Actualizar, monitorear, reiniciar cuando se traba. Si no tienes esa persona, y no tienes un socio que lo haga, la nube es honestamente mejor. Se rompe menos y el problema es del otro.

Tarea que exige el modelo más fuerte que existe. Análisis legal de contrato largo, generación de código complejo, razonamiento en varias etapas encadenadas. Aquí el modelo pequeño se equivoca, y un error en automatización cuesta más caro que un token.

El criterio práctico que uso: si tu cuenta mensual de IA pasa de 500 reales y más del 70% de las llamadas son tarea repetitiva, vale la pena estudiarlo. Por debajo de eso, quédate en la nube y duerme tranquilo.

Cómo probar sin comprar nada

Lo mejor de los agentes de IA locales es que puedes experimentar gratis antes de invertir un centavo.

Primero, mira tu registro de uso. La mayoría de las plataformas muestra cuántas llamadas hiciste y cuánto gastaste en cada una. Separa: ¿cuántas fueron tarea simple y repetitiva?

Segundo, instala un modelo abierto en una laptop razonable. Herramientas como Ollama o LM Studio hacen eso en quince minutos, con dos clics. Un modelo menor, de 7 a 8 mil millones de parámetros, corre incluso en una Mac con 16 GB.

Tercero, toma cien casos reales que ya pasaron por tu flujo. Ya sabes cuál era la respuesta correcta. Córrelos en los dos, local y nube, y compara.

Si el local acierta el 90% o más en las tareas simples, tienes tu caso. Si acierta el 60%, ahorraste el dinero de la máquina descubriéndolo en una laptop.

Esa prueba lleva un día. No necesita proyecto, ni comité, ni PowerPoint con cuatro escenarios.

Lo que realmente pienso de todo esto

Modelos como el Muse Glimmer apuntan a una dirección que vengo defendiendo hace tiempo: la IA se está volviendo infraestructura, no servicio.

El servicio se alquila. La infraestructura se instala. Nadie paga por consulta a la base de datos, nadie paga por petición a su propio servidor de archivos. En algún momento, "pagué tres centavos para que la IA leyera un correo" va a sonar tan extraño como pagar por minuto de internet discada.

Esto no mata la nube. Mata la nube como respuesta estándar para todo. Lo que queda es una elección de arquitectura, hecha con números en la mano: lo que es rutina se queda cerca, lo que es difícil va lejos.

Y aquí está la parte que le interesa a tu negocio. Esa elección no es técnica, es de costo y de riesgo. Cuánto gastas hoy, cuánto de ese gasto es repetición, qué pasa si la API se cae el viernes por la tarde, qué datos prefieres que nunca salgan de aquí. Un dev responde la pregunta técnica. Tú respondes las otras cuatro.

Si no sabes responder cuánto gastas y en qué, ese es el primer trabajo. Antes de comprar máquina, antes de elegir modelo, antes de todo. Medir es aburrido y es la etapa que más dinero ahorra.

Si quieres conversar sobre qué tiene sentido automatizar ahí, cuéntame qué te está consumiendo tiempo.

La cuenta de IA de un cliente pasó de 90 a 1.100 reales en seis semanas. Nada se rompió.

El agente simplemente empezó a correr todo el día: lee correo, clasifica pedido, actualiza planilla. Unos centavos por chequeo, 4 mil chequeos por día.

La verdad incómoda: el 90% de esas tareas no exige genialidad. Exige consistencia. Es trabajo de pasante aplicado, no de consultor sénior.

Puse un modelo local de guardia para lo que es rutina y dejé que solo los casos difíciles subieran a la nube. 91% resueltos en la máquina, cuenta de vuelta a 130 reales por mes.

Y hubo un bono que nadie esperaba: cuando la API se cayó un martes, el agente local siguió filtrando. El negocio no se detuvo.

Antes de comprar máquina o elegir modelo, mide. ¿Cuánto gastas hoy y cuánto de eso es pura repetición?

Cuéntame qué te está consumiendo el tiempo y te digo si vale la pena automatizarlo.

#InteligenciaArtificial #Automatizacion #Tecnologia #Gestion #IA