La inteligencia artificial (IA) local consiste en usar la inteligencia artificial directamente en tu ordenador personal, ejecutando un modelo con programas como Ollama o LM Studio, en lugar de enviar tus datos a servidores en la nube como los de ChatGPT. Funciona sin conexión a internet, pero necesita suficiente RAM o VRAM para cargar el modelo.
Lo que vas a sacar de aquí
Al terminar sabrás si una IA local te conviene y cómo ponerla en marcha en tu equipo.
- Calcular la memoria que necesita un modelo antes de descargarlo
- Elegir el programa adecuado según tu perfil
- Decidir qué tareas van en local y cuáles en la nube
- Revisar una lista de comprobación antes de usar datos sensibles
¿Qué es la inteligencia artificial local y en qué se diferencia de la IA en la nube?
La inteligencia artificial local es un modelo de inteligencia artificial, concretamente un modelo extenso de lenguaje (LLM, un sistema entrenado para generar texto a partir de instrucciones) que se ejecuta en tu propio hardware. En la computación en la nube (cloud), tu instrucción viaja al servidor del proveedor y la respuesta vuelve por internet. Los modelos locales evitan ese viaje y te dan mayor privacidad y control total sobre tus datos.
En tu equipo, la inferencia, el cálculo que produce cada respuesta, ocurre en tu CPU (unidad central de procesamiento) o en tu GPU (tarjeta gráfica).
| Criterio | IA local | IA en la nube |
|---|---|---|
| Procesamiento de datos | En tu equipo | En servidores del proveedor |
| Conexión | Sin internet tras descargar el modelo | Siempre conectado |
| Coste por uso | Sin cuota por token, pagas hardware y electricidad | Suscripción o pago por tokens |
| Mantenimiento | Lo haces tú | Lo hace el proveedor |
El Máster en Inteligencia Artificial: IA e Innovación de Founderz trabaja con Copilot, Claude, ChatGPT y Gemini, los asistentes en la nube con los que se compara un modelo local.
Si quieres probar una IA local gratis con tus propios archivos, Rebost es una aplicación de escritorio para Mac y Windows creada por Frontierz: la IA se ejecuta en tu ordenador, los documentos no salen de él y cada respuesta cita los archivos que ha usado.
¿Buscabas IA para negocios locales, es decir, visibilidad en las búsquedas de tu zona? Es otro tema y lo tienes en nuestra guía de IA para comercio local.
¿Qué hardware necesitas en tu ordenador para utilizar la IA local?
El factor decisivo es la memoria donde cabe el modelo: la VRAM (memoria gráfica) de tu GPU o la memoria unificada de un Mac con Apple Silicon. Un modelo pequeño cabe en una tarjeta gráfica NVIDIA RTX o AMD Radeon de gama media o en un portátil con memoria de sobra. Sin GPU funciona con el microprocesador, pero responde más despacio.
Para estimar la memoria, multiplica los parámetros por los bytes de cada peso, que en 16 bits son 2 bytes por parámetro, según el artículo LLM.int8() de Dettmers y otros (arXiv, 2022). Un modelo de 8B, es decir, de 8.000 millones de parámetros, pesa unos 16 gigabytes (GB) con 2 bytes por peso. Sin cuantizar no cabe en una GPU con 16 GB de VRAM, porque el contexto también ocupa memoria, y pide 24 GB de VRAM o, con contextos largos, 32 GB de VRAM. La cuantización, que reduce la precisión de los pesos del modelo para optimizar la memoria, lo baja a unos 4 GB, más la memoria adicional que consume el contexto de la conversación. Por eso suele caber en una GPU de 8 GB de VRAM. Con la misma cuenta, un modelo de 70 mil millones de parámetros cuantizado ronda los 35-40 GB y pide un equipo con 64 GB de RAM.
- Abre el Administrador de tareas, pestaña Rendimiento, y anota la memoria de GPU dedicada.
- Anota la RAM total y deja 2-4 GB libres para el sistema.
Microsoft explica cómo descargar y ejecutar modelos de forma local en su guía oficial de IA en Windows.
¿Cómo instalar Ollama o LM Studio y ejecutar un modelo de IA paso a paso?
Instala una aplicación de escritorio, Ollama o LM Studio, descarga un modelo abierto pequeño y úsalo como chat sin conexión. LM Studio ofrece interfaz gráfica de usuario; Ollama se usa desde terminal y expone una API local.
- Comprueba tu memoria con la lista anterior.
- Elige la opción con interfaz gráfica si prefieres ventanas, o la de terminal si quieres un servidor local.
- Descarga desde el catálogo de modelos del programa uno de 7-8B cuantizado, por ejemplo de la familia Gemma.
- Prueba una tarea real de tu flujo de trabajo y desconecta el wifi para confirmar que funciona offline.
Este prompt sirve para probar tu modelo con unas notas de reunión reales.
Eres mi asistente de reuniones. Resume las notas siguientes en cinco acciones, cada una con responsable y fecha. Si falta un dato, escribe «sin dato». Notas: (pega aquí el texto)
Revisa siempre el resultado, porque los modelos pequeños inventan datos con facilidad.
¿Qué modelos abiertos de IA puedo usar en local, como Gemma o Qwen?
Para trabajar con IA sin la nube puedes usar modelos abiertos como Gemma o Llama, con pesos descargables que se ejecutan en esos dos programas. Elige por tamaño y tarea: uno de 7-8B para redactar y resumir, uno mayor si tu memoria lo permite. Servicios como Claude o Gemini se ejecutan en los servidores de su proveedor.
Muchos se presentan como modelos de código abierto (open source), aunque sus licencias varían, así que revisa la de cada uno antes de usarlo en tu empresa. Publicar los pesos no equivale a publicar el código fuente ni los datos de entrenamiento. Los modelos cuantizados suelen distribuirse en formato GGUF, el que usa llama.cpp, un software de código abierto escrito en C++, para ejecutar inferencia en el procesador y la GPU.
¿Cuánto cuesta una IA local?
El software habitual se descarga sin coste y la inversión está en el hardware y la electricidad. Con un PC de 16 GB de RAM puedes correr un modelo pequeño sin comprar nada. Una GPU con más VRAM sí supone gasto, y si usas la IA pocas veces al mes, una suscripción en la nube puede salir más barata.
¿Es más privada la IA local si tus datos no salen del equipo y cómo encaja con el AI Act?
Sí en un aspecto concreto: con un servicio en la nube tu texto viaja a un proveedor, mientras que con modelos en tu propia infraestructura no viaja a un proveedor externo, lo que reduce la exposición de datos personales. No te libera del Reglamento (UE) 2016/679 (RGPD), aplicable desde el 25 de mayo de 2018, que te sigue exigiendo seguridad en el tratamiento.
Según Eurostat (2025), el 19,95% de las empresas de la UE usó tecnologías de IA en 2025, y el 55,03% de las grandes empresas.
La Ley de IA, el Reglamento (UE) 2024/1689 en vigor desde el 1 de agosto de 2024, se aplica según el uso que des al sistema, no según dónde corra el modelo. Antes de pegar datos sensibles, revisa tres cosas.
- Cifra el disco del equipo.
- Comprueba con la red desconectada que el modelo responde.
- Borra el historial de conversaciones con datos personales al terminar.
¿Cuándo compensa un modelo local y cuándo no?
Compensa cuando trabajas a menudo con documentos confidenciales o sin conexión y tus tareas son acotadas, como resumir, clasificar o redactar borradores. No compensa si necesitas el máximo razonamiento o la usas pocas veces.
| Situación | Opción | Motivo |
|---|---|---|
| Resumir actas con datos de clientes cada día | Local | Los datos no salen del equipo |
| Analizar un informe muy largo | Nube | Modelos mayores y más contexto |
| Redactar algún correo al mes | Nube | No compras hardware ni mantienes nada |
Preguntas frecuentes
Estas son las dudas más habituales al instalar modelos por primera vez.
¿Puedo usar IA local sin GPU?
Sí. Ambos programas pueden correr modelos ligeros directamente en el dispositivo, solo con el procesador y la memoria de acceso aleatorio (RAM) del sistema. Responderán más despacio, con menos tokens por segundo, pero sirven para resumir o redactar. La velocidad depende del modelo y de tu equipo, así que empieza con un modelo pequeño cuantizado y una tarea corta para medirla.
¿Cuánto pesa una IA local?
El archivo de un modelo pequeño cuantizado de 7-8B ocupa entre 4 y 5 GB en disco, y los medianos, decenas de GB. Un SSD con 50 GB libres da margen para empezar.
¿Puedo entrenar una IA local con mis documentos?
Entrenar modelos de lenguaje desde cero exige clústeres de GPU fuera del alcance de un PC. Lo habitual es usar un modelo ya entrenado y darle tus documentos como contexto en tus instrucciones, o afinarlo con técnicas ligeras si tienes conocimientos técnicos. Para empezar, el contexto basta.
¿Puedo conectar una API local a otras aplicaciones?
Sí. Ambos programas levantan un servidor en tu ordenador con una API compatible con la de OpenAI, la empresa de los modelos GPT, así que otras herramientas de IA, incluidos agentes de IA, pueden enviarle peticiones en lenguaje natural sin salir de tu red. En muchas de ellas basta con cambiar la dirección de las APIs en la nube por la de tu servidor.
Para saber más
Estas fuentes oficiales cubren la protección de datos, el uso de IA en empresas europeas y cómo usar modelos en tu PC.
Si quieres aprender a decidir qué herramienta de IA usar en cada tarea y qué datos puedes compartir, el Máster en Inteligencia Artificial: IA e Innovación de Founderz es online y no exige saber programar. Incluye un módulo de uso responsable y AI Act, certificación de Founderz y Microsoft e insignias oficiales de Microsoft. Puedes ver el temario o solicitar información.
Este artículo tiene carácter informativo y educativo. No es consejo legal ni sustituye el criterio de un profesional; consulta siempre a tu abogado.
