AI Revolution Day: el congreso gratuito de IA de Founderz llega el 18 y 19 de noviembre.
Días
Horas
Minutos
Segundos
Ver congreso

Primeros pasos con Ollama para usar LLMs en local sin tecnicismos

Profesional ejecutando un modelo de IA en local con Ollama en una Microsoft Surface Laptop

Ollama es una herramienta de código abierto para descargar y ejecutar un LLM (large language model, o modelo extenso de lenguaje) en tu ordenador. Con un LLM ejecutado localmente, tus textos no viajan a ningún servidor externo. Funciona en Windows, macOS y Linux y sirve para usar modelos de inteligencia artificial (IA) como Llama, Qwen o Mistral desde la terminal o desde otras aplicaciones.

Lo que vas a sacar de aquí

Al terminar sabrás si Ollama encaja en tu trabajo y cómo ponerlo en marcha en una tarde.

  • Entenderás qué hace Ollama y qué queda fuera de su alcance.
  • Comprobarás si tu ordenador tiene memoria suficiente para un modelo útil.
  • Instalarás Ollama y ejecutarás tu primer modelo con un comando.
  • Decidirás entre un modelo local y un servicio en la nube según privacidad y coste.

¿Qué es Ollama y para qué sirve?

Ollama es un programa que descarga, gestiona y ejecuta modelos de IA abiertos, como Llama, Qwen, Mistral o DeepSeek, en tu propio equipo. Sirve para interactuar con los modelos sin depender de un servicio externo, probar modelos distintos con un comando y conectar tus aplicaciones a un servidor local. Ollama puede además personalizar modelos con un Modelfile, un archivo de configuración, y ofrece una biblioteca de modelos abiertos para elegir.

Imagina una consultora que redacta propuestas con datos de clientes. Pega el borrador en un modelo local para resumirlo y el texto no sale del portátil.

Si quieres el contexto completo de LLMs, agentes y uso responsable, el programa de Founderz sobre IA aplicada incluye agentes y automatizaciones sin código y un módulo de uso responsable y AI Act.

¿Cómo funcionan los LLMs y los modelos de lenguaje en local con Ollama?

Ollama arranca un servidor en tu equipo para atender a los modelos de lenguaje: descarga los pesos del modelo que pidas y responde con tu CPU o tu GPU. Ese servidor escucha por defecto en el puerto 11434 de tu propio ordenador y ofrece una API REST compatible con la de OpenAI.

Los modelos se distribuyen comprimidos, o cuantizados, para que quepan en la memoria de un equipo doméstico. Cuanto más pequeño es el modelo, menos memoria necesita y menos capacidad tiene.

¿Cuáles son los requisitos mínimos para ejecutar Ollama?

La ejecución de Ollama funciona en Windows, macOS y Linux y exige memoria suficiente para el modelo que elijas, porque el modelo debe cargarse en la RAM o en la memoria de la GPU. La tabla muestra el peso en disco de modelos de la biblioteca de Ollama, donde la B indica miles de millones de parámetros, y la memoria libre de tu equipo debe superar esa cifra.

ModeloPeso en disco
gemma3:4b (4B)3,3 GB
llama3 (8B)4,7 GB
deepseek-r1:8b (8B)5,2 GB
gemma3:12b-it-q4_K_M (12B)8,2 GB

El tamaño exacto aparece al ejecutar ollama list y en la ficha de cada modelo. Sin GPU compatible, Ollama usa la CPU y funciona, pero despacio.

¿Cómo instalar Ollama y dar los primeros pasos con Ollama?

Los primeros pasos con Ollama consisten en descargar el instalador oficial, abrirlo y comprobar en la terminal que responde. Así aprendes cómo usar Ollama igual en Windows y Linux, y también en macOS. Ollama para Linux se instala con un solo comando desde la terminal.

  1. Entra en la web oficial de Ollama y descarga el instalador para Windows o macOS. En Linux, copia el comando de instalación que muestra la página.
  2. Abre el instalador y sigue el asistente hasta el final.
  3. Abre PowerShell en Windows o Terminal en macOS y escribe ollama –version para confirmar la instalación.
  4. Escribe ollama run gemma3:4b. La primera vez descarga el modelo y abre un chat en la terminal.

Si prefieres Ollama en un contenedor, Docker lo ejecuta con este comando.

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

Para saber cuánta programación necesitarás más adelante, consulta qué lenguaje de programación aprender para IA.

¿Cuáles son los comandos básicos de Ollama?

Cinco comandos cubren el uso diario de Ollama desde la terminal: ejecutar un modelo, descargarlo del registro, listar los instalados, ver qué modelos están cargados y eliminar los que no uses. La tabla muestra qué hace cada uno.

ComandoQué hace
ollama run modeloDescarga el modelo si falta y abre un chat
ollama pull modeloDescarga un modelo del registro de Ollama
ollama listMuestra los modelos instalados
ollama psMuestra los modelos cargados en memoria
ollama rm modeloElimina un modelo

Este ejemplo resume una nota de reunión con Gemma 3 4B, un modelo pequeño.

ollama run gemma3:4b "Resume en tres puntos esta nota. El lunes acordamos mover el lanzamiento al 14 de marzo. Marta cierra el presupuesto el miércoles. Falta revisar el contrato con el proveedor antes del viernes."

Revisa siempre la respuesta. Un modelo pequeño puede omitir una fecha o atribuir una tarea a la persona equivocada.

¿Cuáles son los modelos de Ollama disponibles para usar un LLM localmente?

No existe un modelo universal, sino uno adecuado a tu tarea y a tu memoria. Estas son las familias más habituales.

  • Llama y Gemma, familias generalistas con versiones pequeñas para portátiles.
  • Qwen y Mistral, que conviene probar si trabajas en varios idiomas o con código.
  • DeepSeek, con versiones de razonamiento que piensan paso a paso y tardan más en responder.

El AI Index 2025 de Stanford señala que los modelos de pesos abiertos se acercan a los cerrados: la diferencia de rendimiento pasó del 8% a solo el 1,7% en algunos benchmarks en un solo año. Ese dato se refiere a determinados benchmarks, no a todos los modelos, y no implica que los modelos que caben en un portátil alcancen ese nivel.

Prueba dos o tres modelos con el mismo texto real y quédate con el que exija menos correcciones.

¿Es Ollama gratis y cuánto cuesta?

Para ejecutar modelos abiertos en tu propio equipo, la API local de Ollama no exige clave de API ni autenticación, según su documentación. El coste real es el hardware y la electricidad. La web oficial también ofrece modelos en la nube con planes propios, cuyos precios conviene revisar antes de contratar.

Local no siempre es más barato. El mismo AI Index 2025 recoge que el coste de inferencia de un sistema del nivel de GPT-3.5 cayó más de 280 veces entre noviembre de 2022 y octubre de 2024. Con un uso ocasional, un servicio de pago por uso puede salir más barato que ampliar memoria o comprar una GPU.

¿Es seguro usar Ollama?

Con modelos locales, sí en lo esencial, porque tus textos se procesan en tu equipo y no se envían a servidores externos. Esa ventaja no sustituye el cumplimiento normativo.

El Reglamento (UE) 2016/679, aplicable desde el 25 de mayo de 2018, exige en su artículo 32 medidas de seguridad adecuadas, lo que incluye controlar quién accede al equipo y a los documentos. Esto es información general, no asesoramiento jurídico.

  • Si activas modelos en la nube, tus mensajes salen de tu equipo, así que lee sus condiciones antes de pegar datos personales.
  • No abras el puerto 11434 a internet, porque el servidor local no pide credenciales por defecto.

¿Es Ollama mejor que ChatGPT?

No se comparan en bloque, porque Ollama es el programa que ejecuta modelos abiertos en tu equipo y ChatGPT es un servicio en la nube de OpenAI. La calidad depende del modelo concreto y de tu hardware. La tabla resume cuándo elegir cada opción.

SituaciónOpción razonable
Documento con datos de clientesModelo local con Ollama
Tarea que exige la máxima calidadServicio en la nube
Trabajo sin conexiónModelo local con Ollama
Uso ocasional sin datos sensiblesServicio en la nube

¿Cuáles son las ventajas de usar Ollama?

Las ventajas de usar Ollama son la privacidad, el trabajo sin conexión y el control sobre qué modelo de IA ejecutas. Es IA local: los pesos de modelos se guardan en tu disco y puedes cambiar entre modelos LLM open source con un comando, sin depender de un servicio cloud ni de sus precios.

Ollama simplifica la gestión de modelos: descargas, actualizas y borras grandes modelos lingüísticos con un comando. Los equipos técnicos pueden integrar modelos en sus aplicaciones a través de Ollama y su servidor API, cuyo código está publicado en el GitHub de Ollama.

¿Cómo usar la API de Ollama en tus aplicaciones?

Ollama expone una API REST en el puerto 11434, así que cualquier aplicación puede enviar un texto y recibir la respuesta del modelo sin salir de tu equipo. El servidor API de Ollama también permite usar un LLM localmente desde herramientas de automatización de tu equipo.

Preguntas frecuentes

Estas son las dudas que más se repiten antes de instalar Ollama.

¿Qué tan buena es la IA Ollama?

Ollama no es un modelo, así que su calidad depende del modelo que ejecutes. Los modelos pequeños resuelven bien resúmenes, borradores y clasificación de textos, pero fallan más en razonamientos largos y en datos recientes. Compara con tu propio trabajo antes de fiarte de cualquier ranking.

¿A quién pertenece Ollama?

Ollama lo desarrolla la empresa Ollama, que publica el código abierto en GitHub. No es propiedad de las compañías que crean los modelos que ejecuta, como Meta con Llama o Google con Gemma. Cada modelo tiene su propia licencia, así que revísala antes de usarlo con fines comerciales.

¿Dónde guarda Ollama los modelos?

Ollama guarda los modelos descargados en la carpeta .ollama/models de tu usuario. Si necesitas liberar espacio, puedes mover esa carpeta a un disco externo, pero copia todos los archivos de las carpetas blobs y manifests para que Ollama siga reconociendo los modelos.

¿Cómo actualizo Ollama y los modelos?

Para actualizar Ollama, descarga la versión actual solo desde ollama.com o desde su repositorio oficial en GitHub y mantenla al día como cualquier otro servicio. Para actualizar un modelo, usa ollama pull con su nombre para volver a descargarlo desde el registro de Ollama.

¿Necesito saber programar para usar Ollama?

No para lo básico. Instalar el programa, descargar un modelo y chatear exige escribir un par de comandos que puedes copiar. Programar solo hace falta si quieres conectar Ollama con otras aplicaciones mediante su API, algo que se resuelve con unas pocas líneas de código.

Para saber más

Estas fuentes recogen el informe, la norma y la documentación citados en la guía.

Si quieres trabajar con modelos de lenguaje con criterio profesional, el Máster en Inteligencia Artificial: IA e Innovación de Founderz, en colaboración con Microsoft, es un programa online de 3-4 meses, según indica su página oficial.

Según su temario, reúne 12 módulos con ejercicios prácticos, más de 20 herramientas de IA y un módulo de uso responsable y AI Act. Ollama no figura entre sus herramientas, pero aprenderás a trabajar con asistentes, agentes y automatizaciones sin código. Al terminar obtienes la certificación de Founderz y Microsoft y las insignias oficiales de Microsoft. Puedes ver el temario o solicitar información en la página del programa.

Paul Delaney

Paul Delaney lleva diseñando prompts de IA desde la era de GPT-2, mucho antes de que ChatGPT popularizara el prompting. Paul lidera la estrategia de SEO, AEO y GEO en Founderz, mejorando cómo se descubren la escuela y sus programas tanto en buscadores tradicionales como en búsquedas impulsadas por IA. Con más de 25 años de experiencia en educación y crecimiento digital, utiliza la IA para apoyar su trabajo comercial desde 2021.