IA en local o en la nube: qué gana de verdad una PYME

Cada pocas semanas aparece el mismo argumento de venta: «con nosotros la IA corre en tu propio servidor, tus datos no salen de aquí». Y engancha, porque debajo hay un miedo razonable: no te hace ninguna gracia que las conversaciones con tus clientes acaben en la infraestructura de una empresa que está a ocho husos horarios. El problema es que «en local» no significa lo que la mayoría entiende, y la decisión importante no es la que te están planteando. Vamos a mirar las tres opciones reales, lo que cuesta cada una y en qué casos merece la pena complicarse.

Tres opciones, no dos

La nube. Escribes un mensaje, se envía a un proveedor —OpenAI, Anthropic, Google, Mistral—, el modelo lo procesa en su infraestructura y te devuelve la respuesta. Pagas por uso y no mantienes nada.

Local de verdad. Los pesos del modelo (el archivo enorme que «es» el modelo) están en una máquina tuya: el ordenador de la oficina, un mini-servidor en el armario del router. No sale nada a internet.

El punto intermedio que casi nadie menciona. Un modelo abierto corriendo en un servidor que alquilas en un centro de datos de Madrid, Fráncfort o París. Sigue siendo un tercero, sí, pero es un tercero europeo, con un contrato tuyo, sin cadena larga de subencargados y sin que tus datos crucen el Atlántico. Para la mayoría de PYMEs que se plantean el local, esta es en realidad la opción que estaban buscando.

Meter las tres en el mismo saco es lo que convierte la conversación en algo casi ideológico. No lo es: son tres estructuras de coste y tres perfiles de riesgo distintos, y se eligen por proceso, no por convicción.

La factura: dónde se paga cada cosa

La nube se paga por mensaje procesado, en céntimos, y baja a cero cuando no la usas. Es gasto variable puro: agosto flojo, factura floja.

El local se paga por adelantado y luego parece gratis. No lo es. Necesitas una máquina con RAM suficiente para el modelo: la documentación de Ollama, la herramienta más habitual para esto, recomienda tener disponibles al menos 8 GB de RAM para modelos de 7.000 millones de parámetros, 16 GB para los de 13.000 y 32 GB para los de 33.000. Súmale una gráfica decente si no quieres esperar diez segundos por respuesta, la luz, y —esta es la gorda— alguien que lo actualice, lo vigile y lo levante cuando se cuelgue.

Haz tú la cuenta, que es de servilleta: coge el precio de la máquina, divídelo entre 36 meses, súmale las horas al mes que alguien va a dedicarle valoradas a lo que cobra esa persona, y compáralo con lo que costaría el mismo volumen por API. Para el volumen típico de una PYME —unos cientos de mensajes al día, no millones— la cuenta sale casi siempre a favor de la nube, y no por poco. El hardware no es lo caro. Lo caro es el rato de alguien.

«En local» no significa «cumplo el RGPD»

Aquí es donde más gente se equivoca. El RGPD se te aplica igual tengas el modelo donde lo tengas: sigues necesitando una base legal para tratar esos datos, informar a las personas, guardar solo lo necesario y durante el tiempo necesario, y poder atender una petición de supresión.

Lo que cambia al usar la nube es que ese proveedor pasa a ser un encargado del tratamiento, y eso exige un contrato con él. Y si los datos salen del Espacio Económico Europeo, hace falta cobertura: una decisión de adecuación de la Comisión, cláusulas contractuales tipo u otra de las garantías que recoge el reglamento. La Agencia Española de Protección de Datos lo detalla en sus preguntas frecuentes sobre transferencias internacionales. No es un trámite imposible —los proveedores serios te dan el contrato hecho—, pero existe y alguien tiene que leerlo y firmarlo.

Donde el local gana de verdad no es en «privacidad» abstracta, sino en tres cosas concretas: te ahorras la pregunta de la transferencia internacional, te ahorras la cadena de subencargados, y puedes trabajar sin conexión. Si tienes un cliente que te ha puesto por contrato que sus documentos no salen de tu empresa, eso no se arregla con una cláusula: se arregla no mandándolos.

Y donde el local no te salva de nada: un modelo corriendo en un ordenador sin cifrar, sin copia de seguridad y con la contraseña en un post-it pegado a la pantalla es peor para tus clientes que una API con un contrato firmado. Tener el dato cerca no es tenerlo protegido.

La calidad todavía no está empatada

Los modelos abiertos que caben en una máquina de oficina han mejorado una barbaridad, pero no hacen lo mismo que los grandes. Para esto sí valen, y bastante bien:

• Clasificar: decidir si un correo es una petición de presupuesto, una queja o spam.
• Extraer datos de un texto: nombre, teléfono, matrícula, importe, fecha.
• Resumir un mensaje largo en dos líneas.
• Etiquetar y enrutar: a qué carpeta va, a qué persona del equipo le toca.

Donde se les nota la costura: conversaciones largas con matices, seguir quince reglas de negocio a la vez sin saltarse ninguna, cambiar de idioma a media frase (que en España pasa constantemente), pillar la ironía de un cliente cabreado. Si el agente va a hablar directamente con tus clientes por WhatsApp, la diferencia se nota en la primera semana.

La prueba honesta es fácil, y no te la va a hacer el comercial: coge cincuenta mensajes reales de los tuyos —los raros incluidos, no los bonitos— y pásaselos a las dos opciones. La demo siempre funciona; tus cincuenta mensajes, no siempre.

Cuándo no te montes un servidor de IA

Hay cuatro señales bastante fiables de que esto te va a dar más disgustos que alegrías:

1. No hay nadie que lo pueda reiniciar un viernes a las ocho de la tarde. Si la respuesta a «¿quién lo arregla si se cae?» eres tú, ya sabes cómo acaba la historia.
2. Tu volumen es bajo. Por debajo de unos cuantos miles de mensajes al mes, la amortización no llega nunca.
3. Lo haces «por privacidad» pero no te has leído el contrato del proveedor que ya usas. Empieza por ahí: mira qué firmaste, dónde se procesan los datos y si se usan para entrenar. Igual el problema que quieres resolver no existe.
4. Necesitas conversación, no clasificación. Si la tarea es hablar con personas, no la resuelvas con el modelo pequeño solo porque la máquina es tuya.

Un sistema que funciona el 95% del tiempo y que nadie sabe arreglar el 5% restante no es un sistema: es una avería con fecha pendiente.

El híbrido aburrido que sí funciona

Casi ninguna PYME necesita elegir bando. Lo que funciona es repartir por sensibilidad del dato, y se decide en una tarde:

1. Escribe qué datos toca el proceso. Literalmente, una lista: nombres, teléfonos, historiales, números de cuenta, documentos de clientes.
2. Marca los que no pueden salir de tu empresa, por ley o por contrato. Suelen ser bastantes menos de los que crees.
3. Para esos pasos concretos: modelo pequeño en local, o directamente sin IA.
4. Para todo lo demás: nube con contrato de encargado, procesamiento en la UE y compromiso escrito de que no se usa para entrenar.
5. Manda lo mínimo. No hace falta enviar el historial completo de un cliente para redactar un «tu pedido sale mañana».

Ese punto 5 es el que más protege y el que menos se hace. La decisión de fondo no es «nube o local»: es cuánto le cuentas a quién, y por qué.

Si estás en ese punto, el orden importa: primero decide qué proceso quieres quitarte de encima, y después dónde vive. Nuestro agente de operaciones se ocupa del back-office —presupuestos, seguimientos, recordatorios— y dónde se procesa cada cosa se decide contigo, no por defecto. Tú apruebas, él ejecuta.