Bu Modülde Neler Öğreneceksin?
LLM’leri production’a almak: monitoring, versioning, A/B test, drift tespiti ve CI/CD.
Konu Listesi
- LLM serving nedir
- vLLM (hızlı inference)
- TGI (Text Generation Inference, HuggingFace)
- Ollama ile local deploy
- LMStudio
- Modal.com ile serverless deploy
- AWS Bedrock
- Azure OpenAI Service
- Google Vertex AI
- Kubernetes ile LLM scaling
- GPU memory yönetimi
- Tensor parallelism
- Docker ile LLM containerization
- CI/CD for LLM apps
- Blue-green deployment LLM için
- Model versiyonlama
- Shadow deployment (test in production)
- Canary release
Başlamadan Önce
Bu modülün içeriğini tamamladıktan sonra ilgili araçları ve teknikleri kendi projelerinde uygulayabileceksin. Her konu için pratik örnekler ve kod snippetları yakında eklenecek.
İçerik hazırlanıyor mu? Bu sayfayı WordPress admin panelinden (AI Kurslar → Bu Kurs → Düzenle) istediğin gibi zenginleştirebilirsin.