Talki Academy
🦙

Ollama: LLMs Locais em Producao

Treinamento tecnico intensivo para desenvolvedores e equipes de operacoes que desejam implantar LLMs open-source em producao sem depender de APIs proprietarias. Domine Ollama, quantizacao, deploy Docker multi-GPU e integracao com sua stack existente. Caso real: startup reduziu custos de EUR 4.200/mes para EUR 109/mes (-97%).

Duracao
2 dias
Nivel
Intermediario
Preco
9,99 EUR/mes (todos os cursos incluidos)
Grupo maximo
12 participantes

O que voce vai aprender

+Instalar e configurar Ollama em diferentes plataformas (macOS, Linux, Docker)
+Escolher o modelo certo para suas restricoes (latencia, qualidade, VRAM)
+Compreender quantizacao (Q2, Q4, Q8) e otimizar desempenho/qualidade
+Implantar com Docker Compose, balanceamento de carga multi-GPU e Open WebUI
+Integrar com API compativel com OpenAI (migracao em 2 linhas de codigo)
+Implementar monitoramento (Prometheus, Grafana), rate limiting e backups
+Calcular ROI e comparar custos de API vs auto-hospedado

Programa do curso

Modulo 1: Fundamentos do Ollama e Selecao de Modelos

3h30
  • Instalando Ollama: primeiros passos
  • Entendendo quantizacao: Q2, Q4, Q8, FP16
  • Selecao de modelos: Llama, Mistral, CodeLlama, DeepSeek
  • Benchmarks de desempenho: latencia, throughput, qualidade
  • Casos de uso: qual modelo para qual tarefa?

Modulo 2: Deploy Docker e Configuracao de Producao

3h30
  • Docker Compose: Ollama + Open WebUI
  • Balanceamento de carga multi-GPU com NGINX
  • Cache de modelos e otimizacao de latencia
  • Workshop: arquitetura completa de producao

Modulo 3: Integracao de API e Compatibilidade OpenAI

3h30
  • API compativel com OpenAI: migracao em 2 linhas
  • Streaming: respostas token por token
  • Integracao LangChain: RAG e agentes
  • Workshop: migre uma aplicacao OpenAI para Ollama

Modulo 4: Padroes de Producao e Monitoramento

3h30
  • Monitoramento com Prometheus e Grafana
  • Rate limiting com Redis e Celery
  • Backup automatizado e recuperacao de desastres
  • Caso real: startup reduzindo custos em 94%
  • Calculo de ROI: API vs auto-hospedado

Pronto para comecar?

9,99 EUR/mes — Todos os cursos incluidos, cancele quando quiser

Solicitar orcamentoVer todos os cursos