Cuando alguien menciona inteligencia artificial, casi siempre está hablando de servicios en la nube: ChatGPT, Claude, Gemini. Son interfaces que procesan tus consultas en servidores remotos, en centros de datos que pertenecen a empresas como OpenAI, Anthropic o Google. Eso implica que tus datos viajan, que dependes de una conexión estable, y que el acceso está sujeto a condiciones de servicio que pueden cambiar. Existe otra opción, menos conocida y más técnica: ejecutar el modelo directamente en tu propio ordenador. Es lo que se conoce como modelo local.
Qué es un modelo local y cómo funciona
Un modelo de lenguaje local es, simplemente, un modelo que se ejecuta en tu hardware. No hay servidor externo, no hay API, no hay red. El texto que escribes se procesa dentro de tu máquina y la respuesta se genera ahí mismo.
Esto es posible porque los modelos de lenguaje son, en última instancia, archivos de parámetros numéricos. Un modelo grande como GPT-4 tiene cientos de miles de millones de parámetros y requiere hardware especialísimo. Pero en los últimos dos años han aparecido modelos más pequeños, optimizados para ejecutarse en hardware convencional: ordenadores portátiles con 16 GB de RAM, PCs de sobremesa con GPUs de gama media. Modelos como Llama 3, Mistral, Phi o Gemma pueden funcionar en equipos que muchas personas ya tienen.
La herramienta más popular para gestionar modelos locales se llama Ollama. Permite descargar, instalar y ejecutar modelos con un par de comandos, y expone una interfaz local que imita a la API de OpenAI, lo que facilita la integración con otras aplicaciones. No es la única opción —LM Studio y GPT4All son alternativas con interfaz gráfica más amigable— pero es la más extendida entre quienes quieren algo funcional sin perder control.
Las ventajas reales: privacidad y control
La razón principal por la que alguien elige un modelo local es la privacidad. Cuando usas un servicio en la nube, tus prompts y los textos que introduces pueden ser utilizados para entrenar modelos futuros, a menos que hayas desactivado esa opción o uses una suscripción que lo garantice por contrato. Esto es especialmente relevante en contextos profesionales donde se maneja información confidencial: contratos, datos de clientes, estrategias internas. Con un modelo local, nada sale de tu máquina.
Hay otras ventajas que se mencionan menos. La independencia de conexión es una de ellas: un modelo local funciona sin internet, lo que puede ser determinante en entornos sin cobertura fiable o en situaciones donde necesitas garantizar disponibilidad. Tampoco hay límites de uso impuestos por el proveedor, ni colas en horas de alta demanda, ni precios que suben con el volumen de tokens procesados. Una vez descargado el modelo, el coste marginal de cada consulta es cero.
El control sobre la configuración es otro argumento. Puedes ajustar parámetros como la temperatura, la longitud de contexto o el formato de salida con una granularidad que los servicios en la nube no siempre permiten. Y puedes usar el modelo dentro de flujos de trabajo automatizados sin depender de cuotas externas ni de cambios en la política del proveedor.
Las limitaciones que nadie menciona
Los modelos locales tienen desventajas claras que conviene entender antes de invertir tiempo en su instalación.
La primera es la brecha de calidad. Los mejores modelos disponibles para uso local —los que pueden funcionar en hardware convencional— son significativamente menos capaces que los modelos frontier en la nube. Un modelo de 7.000 millones de parámetros no se compara con uno de 400.000 millones. Para tareas de razonamiento complejo, análisis matizado, generación de texto largo y coherente, o comprensión de instrucciones ambiguas, los modelos en la nube siguen siendo superiores por un margen considerable.
La segunda limitación es el hardware. Para una experiencia fluida, necesitas al menos 16 GB de RAM y, preferiblemente, una GPU con memoria suficiente para cargar el modelo. En un portátil de gama media, un modelo de 7B parámetros puede responder a velocidades tolerables, pero más lento que cualquier servicio en la nube. Los modelos mayores, de 13B o 70B parámetros, requieren equipos más potentes o sacrifican velocidad de forma notable.
La tercera es la actualización continua. Los modelos en la nube se mejoran constantemente sin que el usuario tenga que hacer nada. Un modelo local que descargaste hace seis meses puede quedar desfasado respecto a versiones nuevas, y actualizar implica descargar archivos de varios gigabytes, gestionar versiones y, en algunos casos, reconfigurar integraciones.
Finalmente, la curva de instalación. Aunque herramientas como Ollama han simplificado enormemente el proceso, la configuración inicial sigue siendo más exigente que crear una cuenta en un servicio web. No es para todo el mundo, y no siempre el tiempo que requiere compensa el beneficio.
En qué casos sí merece la pena
Hay escenarios donde la balanza se inclina claramente a favor de los modelos locales.
El primero es el trabajo con datos sensibles. Si manejas información médica, legal o financiera confidencial, y tu organización no puede garantizar contratos de procesamiento de datos con un proveedor en la nube, un modelo local puede ser la única opción legalmente viable. No es comodidad: es cumplimiento normativo.
El segundo es la automatización de tareas repetitivas y sencillas. Para tareas que no requieren razonamiento sofisticado —clasificar textos, extraer información estructurada, generar respuestas de formato fijo— un modelo local de calidad modesta puede ser perfectamente adecuado, especialmente si el volumen es alto y los costes de API serían significativos.
El tercero es el aprendizaje y la experimentación. Si quieres entender cómo funcionan los modelos de lenguaje desde dentro, experimentar con parámetros, construir aplicaciones propias o simplemente explorar las capacidades sin preocuparte por el gasto, un modelo local ofrece una libertad que los servicios con facturación por uso no permiten.
El cuarto es la disponibilidad sin red. Periodistas en zonas de conflicto, investigadores en campo, profesionales en entornos con conectividad restringida: hay contextos donde depender de la nube es simplemente inviable.
Cómo empezar sin conocimientos técnicos
Si quieres probar sin comprometerte con una configuración compleja, el punto de entrada más razonable es Ollama junto con una interfaz gráfica como Open WebUI. La instalación de Ollama toma unos minutos, y a partir de ahí puedes descargar modelos con un comando simple. Mistral 7B o Llama 3 8B son buenos puntos de partida para un ordenador con 16 GB de RAM.
Si prefieres una experiencia más visual desde el principio, LM Studio tiene interfaz gráfica, funciona en Mac, Windows y Linux, y permite descargar modelos desde un catálogo sin tocar la línea de comandos.
La recomendación práctica es comenzar con una tarea concreta y bien definida, no con una pregunta abierta. Pide al modelo que clasifique textos en categorías, que resuma documentos cortos o que genere respuestas a partir de plantillas. Así podrás evaluar si la calidad es suficiente para tu caso antes de integrar el modelo en tu flujo de trabajo habitual.
Los modelos locales no son el futuro de la IA para uso general. Pero son una herramienta útil y, en algunos contextos, la única correcta. Conocer cuándo usarlos y cuándo no es parte de saber usar la IA con criterio.
