LLM Kendi Sunucunda Barındırma ve Sunum (vLLM, TGI)
- 18 saat
- Canlı Online
- 19 Aralık 2026 başlangıç
- 6 modül
- Sertifikalı
500+ Kurumsal Organizasyonda Yetkinlik Dönüşümü
Programın özü
Açık dil modellerini kurum içi altyapıda çalıştırmak isteyen makine öğrenmesi mühendisleri, platform ekipleri ve güvenlik gereksinimi yüksek kurumlar için tasarlanmıştır. Katılımcılar model dağıtımını, verimli çıkarım sunumunu ve kapasite planlamasını uçtan uca kurabilir hale gelir.
Açık dönemler
Tüm açık dönemler ve bireysel kayıt fiyatları.
Program hakkında
Bu programı tamamladığınızda
Program hedeflerine ulaşarak kariyerinizi bir üst seviyeye taşıyın.
Açık model seçimini donanım ve kullanım senaryosuna göre boyutlandırabilir
vLLM ve TGI ile yüksek verimli çıkarım servisleri kurabilir
Kuantizasyon ve bellek yönetimi ayarlarıyla kapasiteyi artırabilir
Eşzamanlı kullanıcı kapasitesini ve maliyeti ölçüp değerlendirebilir
Programa Dahil Olanlar
Programla birlikte erişeceğiniz içerik, destek ve kaynaklar.
Canlı Dersler
CANLIAlanında uzman eğitmenlerle gerçek zamanlı, interaktif oturumlar. Sorularınızı anında sorar, uygulamaları birlikte yaparsınız.
Uygulamalı Proje
Bir açık dil modelini vLLM ile kurum içi sunuma alır, kuantize sürümüyle karşılaştırır ve yük testiyle eşzamanlı kullanıcı kapasitesini belirlersiniz.
Eğitmen Desteği
Oturum dışında da eğitmene ulaşın: takıldığınız konuyu sorun, çalışmanıza geri bildirim alın.
Dönem Topluluğu
Farklı sektörlerden katılımcılarla aynı dönemde ilerleyin; soru sorun, çalışmalarınızı paylaşın.
Ders Kayıtlarına Erişim
Kaçırdığınız ya da tekrar etmek istediğiniz her dersi kayıttan izleyin.
Şablonlar ve Kaynak Seti
Donanım Boyutlandırma Hesap Tablosu, Sunum Aracı Karar Matrisi, Yük Testi Senaryo Seti ve Kapasite Planlama şablonu verilir.
Araç Uygulamaları
vLLM, Text Generation Inference, Hugging Face Transformers, AWQ ve GPTQ kuantizasyon araçları, Kubernetes ve Prometheus kullanılır.
Katılım Sertifikası
Programı tamamladığınızda LinkedIn profilinize eklenmeye hazır, QR ile doğrulanabilir sertifika.
Ücretsiz Tekrar Hakkı
%80 devam şartını yerine getiren katılımcılar, programı sonraki bir dönemde ücretsiz olarak tekrar edebilir.
Ön Hazırlık Materyali
Program başlamadan önce paylaşılan ısınma dokümanlarıyla ilk derse hazır gelirsiniz.
Mindset Güvencesi
Kaydınız Mindset katılımcı güvencesi kapsamındadır; dönem başında sorun yaşarsanız çözüm için yanınızdayız.
Emin değil misiniz?
20 dakikalık ücretsiz ön görüşmede uygunluğunuzu ve doğru dönemi netleştirelim.
Program içeriği
6 modülde, temelden uygulamaya ilerleyen kapsamlı bir eğitim programı. Modüllere tıklayarak konu başlıklarını görebilirsiniz.
- Açık model ailelerinin yetenek ve lisans karşılaştırması
- Parametre sayısına göre bellek gereksinimi hesabı
- GPU seçimi ve bellek bant genişliğinin etkisi
- Bağlam uzunluğunun bellek maliyeti
- Kullanım senaryosuna göre boyutlandırma kararı
- vLLM kurulumu ve model yükleme
- PagedAttention ile KV önbellek yönetimi
- Sürekli gruplama (continuous batching) davranışının incelenmesi
- OpenAI uyumlu API katmanının yapılandırılması
- Akış (streaming) yanıtların sunulması
- TGI kurulumu ve yapılandırma seçenekleri
- vLLM ile TGI performans karşılaştırması
- Ollama ve llama.cpp gibi hafif alternatiflerin konumu
- Çoklu model sunumu ve yönlendirme
- Seçim kriterlerinin karar matrisine dökülmesi
- AWQ ve GPTQ kuantizasyon yöntemlerinin karşılaştırılması
- Kuantizasyonun kalite ve hız etkisinin ölçülmesi
- KV önbellek kuantizasyonu ve bellek kazancı
- Tensör paralelizmi ile çoklu GPU dağıtımı
- Bağlam uzunluğu ile eşzamanlılık dengesinin kurulması
- İlk token süresi ve token üretim hızı metrikleri
- Eşzamanlı istek altında gecikme dağılımının ölçülmesi
- Verim (throughput) ve kullanıcı kapasitesi hesabı
- Yük testi senaryolarının hazırlanması
- Kapasite planlama tablosunun oluşturulması
Program Sertifikası
Programı tamamladığında sertifikan otomatik olarak hesabına tanımlanır; beklemeden indirir, paylaşırsın.
Sertifikan dijital doğrulama kodu taşır; kurumlar kodu girerek geçerliliğini anında doğrulayabilir.
LinkedIn profiline tek tıkla ekleyebilir, doğrulama bağlantısıyla paylaşabilirsin.
Hesabındaki Sertifikalarım bölümünden istediğin zaman PDF olarak indirebilirsin.
Sıkça sorulan sorular
Cevabını bulamadığınız bir şey mi var? Danışmanlarımız hafta içi 09:00–19:00 arası yanıtlıyor.
Kariyerine bugün yatırım yap.
Geniş ödeme tercihleriyle hemen başla. Mindset'te öğrenmeye başlamak artık çok daha kolay. Size en uygun ödeme seçeneğini seçin, yolculuğunuza bugün başlayın.
- 256-bit SSL ile güvenli ödeme
- Kişisel bilgileriniz güvende
- Gizli ücret yok
Ödeme adımında bankanızı seçin, hesap bilgilerini anında görün.
Havale / EFT
- 1Havale/EFT seçinÖdeme adımında yöntem olarak işaretleyin.
- 2Bankanızı seçinHesap bilgilerini anında görün.
- 3Transferi yapınAçıklamaya sipariş numaranızı yazın.
- 4Kaydınız onaylanırÖdemeniz eşleşince kaydınız tamamlanır.
Sorularınız mı var?
Danışmanlarımız hedefinize uygun dönemi ve ödeme planını sizinle birlikte netleştirsin.
İlgili eğitimler
Veri Mühendisliği ve MLOps alanındaki programlar arasından bu programa en yakın olanlar.
- Çevrimiçi Öğrenme ve Artımlı Model Güncelleme
- Model Dağıtım Stratejileri (Multi-Armed Bandit)
- Yapay Zeka Uygulamalarında Sürüm ve Yapılandırma Yönetimi
- Vektör Veritabanı Operasyonu ve Bakımı
- Doküman İşleme ve Parçalama (Chunking) Pipeline'ı
- Kurumsal Bilgi Tabanı ve RAG Veri Pipeline'ı
- Yapay Zeka Sistemleri için Değerlendirme Veri Setleri
- ML Model Paketleme ve Konteynerleştirme