Deployment & MLOps

OPS

LLM’leri production’a almak: monitoring, versioning, A/B test, drift tespiti ve CI/CD.

📋 Konu Listesi

01 LLM serving nedir → 02 vLLM (hızlı inference) → 03 TGI (Text Generation Inference, HuggingFace) → 04 Ollama ile local deploy → 05 LMStudio → 06 Modal.com ile serverless deploy → 07 AWS Bedrock → 08 Azure OpenAI Service → 09 Google Vertex AI → 10 Kubernetes ile LLM scaling → 11 GPU memory yönetimi → 12 Tensor parallelism → 13 Docker ile LLM containerization → 14 CI/CD for LLM apps → 15 Blue-green deployment LLM için → 16 Model versiyonlama → 17 Shadow deployment (test in production) → 18 Canary release →

Konu Listesi

LLM serving nedir
vLLM (hızlı inference)
TGI (Text Generation Inference, HuggingFace)
Ollama ile local deploy
LMStudio
Modal.com ile serverless deploy
AWS Bedrock
Azure OpenAI Service
Google Vertex AI
Kubernetes ile LLM scaling
GPU memory yönetimi
Tensor parallelism
Docker ile LLM containerization
CI/CD for LLM apps
Blue-green deployment LLM için
Model versiyonlama
Shadow deployment (test in production)
Canary release

LLM Temelleri Prompt Mühendisliği RAG Sistemleri AI Agents MCP Protocol Token Optimizasyonu Fine-Tuning LLM Mimarisi Değerlendirme Güvenlik & Etik MLOps Multimodal AI Özel Araçlar Knowledge Bases İleri Seviye LLM Temelleri Prompt Mühendisliği RAG Sistemleri AI Agents MCP Protocol Token Optimizasyonu Fine-Tuning LLM Mimarisi Değerlendirme Güvenlik & Etik MLOps Multimodal AI Özel Araçlar Knowledge Bases İleri Seviye

Deployment & MLOps

📋 Konu Listesi

Konu Listesi

AI Kariyerine Bugün Başla