Talki Academy
🦙

Ollama: LLMs Locales en Produccion

Formacion tecnica intensiva para desarrolladores y equipos de operaciones que desean desplegar LLMs open-source en produccion sin depender de APIs propietarias. Domina Ollama, la cuantizacion, el despliegue Docker multi-GPU y la integracion con tu stack existente. Caso real: una startup redujo costes de 4.200 EUR/mes a 109 EUR/mes (-97%).

Duracion
2 dias
Nivel
Intermedio
Precio
9,99 EUR/mes (todos los cursos incluidos)
Grupo max.
12 participantes

Lo que aprenderas

+Instalar y configurar Ollama en diferentes plataformas (macOS, Linux, Docker)
+Elegir el modelo adecuado para tus restricciones (latencia, calidad, VRAM)
+Comprender la cuantizacion (Q2, Q4, Q8) y optimizar rendimiento/calidad
+Desplegar con Docker Compose, balanceo de carga multi-GPU y Open WebUI
+Integrar con la API compatible con OpenAI (migracion en 2 lineas de codigo)
+Implementar monitorizacion (Prometheus, Grafana), rate limiting y backups
+Calcular el ROI y comparar costes API vs auto-alojado

Programa del curso

Modulo 1: Fundamentos de Ollama y Seleccion de Modelos

3h30
  • Instalacion de Ollama: primeros pasos
  • Comprender la cuantizacion: Q2, Q4, Q8, FP16
  • Seleccion de modelos: Llama, Mistral, CodeLlama, DeepSeek
  • Benchmarks de rendimiento: latencia, throughput, calidad
  • Casos de uso: que modelo para que tarea?

Modulo 2: Despliegue Docker y Configuracion de Produccion

3h30
  • Docker Compose: Ollama + Open WebUI
  • Balanceo de carga multi-GPU con NGINX
  • Cache de modelos y optimizacion de latencia
  • Taller: arquitectura de produccion completa

Modulo 3: Integracion API y Compatibilidad OpenAI

3h30
  • API compatible con OpenAI: migracion en 2 lineas
  • Streaming: respuestas token por token
  • Integracion con LangChain: RAG y agentes
  • Taller: migra una aplicacion OpenAI a Ollama

Modulo 4: Patrones de Produccion y Monitorizacion

3h30
  • Monitorizacion con Prometheus y Grafana
  • Rate limiting con Redis y Celery
  • Backup automatizado y recuperacion ante desastres
  • Caso real: startup que redujo costes un 94%
  • Calculo de ROI: API vs auto-alojado

Listo para empezar?

9,99 EUR/mes — Todos los cursos incluidos, cancela cuando quieras

Solicitar presupuestoVer todos los cursos