LLM Servislerinde Önbellekleme ve Throughput Optimizasyonu
- 18 saat
- Canlı Online
- 30 Aralık 2026 başlangıç
- 6 modül
- Sertifikalı
500+ Kurumsal Organizasyonda Yetkinlik Dönüşümü
Programın özü
Dil modeli servislerinde artan gecikme ve maliyetle karşılaşan platform mühendisleri, backend geliştiriciler ve çözüm mimarları için tasarlanmıştır. Katılımcılar önbellekleme, toplu işleme ve servis ayarlarıyla verimi artırıp istek başına maliyeti ölçülebilir biçimde düşürmeyi öğrenir.
Açık dönemler
Tüm açık dönemler ve bireysel kayıt fiyatları.
Program hakkında
Bu programı tamamladığınızda
Program hedeflerine ulaşarak kariyerinizi bir üst seviyeye taşıyın.
Dil modeli servisinde gecikme, verim ve maliyet metriklerini uçtan uca ölçebilir
Tam yanıt, anlamsal ve istem öneki önbelleklerini uygun senaryolarda kurabilir
Sürekli toplu işleme ve eşzamanlılık ayarlarıyla donanım kullanımını yükseltebilir
Hedef servis seviyesine göre kapasite planı ve performans bütçesi hazırlayabilir
Programa Dahil Olanlar
Programla birlikte erişeceğiniz içerik, destek ve kaynaklar.
Canlı Dersler
CANLIAlanında uzman eğitmenlerle gerçek zamanlı, interaktif oturumlar. Sorularınızı anında sorar, uygulamaları birlikte yaparsınız.
Uygulamalı Proje
Kendi dil modeli servisinizde önbellekleme ve toplu işleme katmanlarını kurup öncesi ve sonrası performansını ölçtüğünüz optimizasyon projesi.
Eğitmen Desteği
Oturum dışında da eğitmene ulaşın: takıldığınız konuyu sorun, çalışmanıza geri bildirim alın.
Dönem Topluluğu
Farklı sektörlerden katılımcılarla aynı dönemde ilerleyin; soru sorun, çalışmalarınızı paylaşın.
Ders Kayıtlarına Erişim
Kaçırdığınız ya da tekrar etmek istediğiniz her dersi kayıttan izleyin.
Şablonlar ve Kaynak Seti
Performans bütçesi şablonu, önbellek stratejisi karar ağacı, yük testi senaryo seti ve kapasite hesaplama çalışma sayfası verilir.
Araç Uygulamaları
Laboratuvarlar vLLM çıkarım sunucusu, Redis önbelleği, Locust yük testi aracı, Prometheus ve Grafana panoları üzerinde yürütülür.
Katılım Sertifikası
Programı tamamladığınızda LinkedIn profilinize eklenmeye hazır, QR ile doğrulanabilir sertifika.
Ücretsiz Tekrar Hakkı
%80 devam şartını yerine getiren katılımcılar, programı sonraki bir dönemde ücretsiz olarak tekrar edebilir.
Ön Hazırlık Materyali
Program başlamadan önce paylaşılan ısınma dokümanlarıyla ilk derse hazır gelirsiniz.
Mindset Güvencesi
Kaydınız Mindset katılımcı güvencesi kapsamındadır; dönem başında sorun yaşarsanız çözüm için yanınızdayız.
Emin değil misiniz?
20 dakikalık ücretsiz ön görüşmede uygunluğunuzu ve doğru dönemi netleştirelim.
Program içeriği
6 modülde, temelden uygulamaya ilerleyen kapsamlı bir eğitim programı. Modüllere tıklayarak konu başlıklarını görebilirsiniz.
- İlk token gecikmesi ve token üretim hızı kavramları
- Eşzamanlılık, kuyruk süresi ve verim ilişkisi
- Yük testi senaryolarının kurgulanması
- Uçtan uca izleme ve dağıtık iz kaydı
- Temel ölçüm hattının oluşturulması
- Tam eşleşmeli yanıt önbelleğinin kurulması
- Anlamsal önbellek ve benzerlik eşiği ayarı
- Önbellek anahtarı tasarımı ve kullanıcı izolasyonu
- Geçerlilik süresi ve geçersiz kılma kuralları
- Yanlış isabet riskinin ölçülmesi
- Sistem istemi ve sabit bağlam öneki paylaşımı
- Sağlayıcı tarafı istem önbelleği kullanımı
- KV cache bellek tüketiminin hesaplanması
- PagedAttention yaklaşımının çalışma mantığı
- Uzun bağlamda bellek baskısının yönetimi
- Statik ve sürekli toplu işleme karşılaştırması
- vLLM ve TGI servis parametrelerinin ayarlanması
- Maksimum eşzamanlı dizi ve token bütçesi ayarı
- Akışlı yanıt ile toplu yanıt tercihleri
- Çoklu GPU dağıtımı ve tensör paralelliği
- Görev zorluğuna göre model kademelendirme
- Küçük model ile büyük model arasında yönlendirme
- Çıktı uzunluğu sınırlama ve erken durdurma
- Sağlayıcı fiyatlandırmalarının karşılaştırılması
- Birim maliyet panosunun kurulması
Program Sertifikası
Programı tamamladığında sertifikan otomatik olarak hesabına tanımlanır; beklemeden indirir, paylaşırsın.
Sertifikan dijital doğrulama kodu taşır; kurumlar kodu girerek geçerliliğini anında doğrulayabilir.
LinkedIn profiline tek tıkla ekleyebilir, doğrulama bağlantısıyla paylaşabilirsin.
Hesabındaki Sertifikalarım bölümünden istediğin zaman PDF olarak indirebilirsin.
Sıkça sorulan sorular
Cevabını bulamadığınız bir şey mi var? Danışmanlarımız hafta içi 09:00–19:00 arası yanıtlıyor.
Kariyerine bugün yatırım yap.
Geniş ödeme tercihleriyle hemen başla. Mindset'te öğrenmeye başlamak artık çok daha kolay. Size en uygun ödeme seçeneğini seçin, yolculuğunuza bugün başlayın.
- 256-bit SSL ile güvenli ödeme
- Kişisel bilgileriniz güvende
- Gizli ücret yok
Ödeme adımında bankanızı seçin, hesap bilgilerini anında görün.
Havale / EFT
- 1Havale/EFT seçinÖdeme adımında yöntem olarak işaretleyin.
- 2Bankanızı seçinHesap bilgilerini anında görün.
- 3Transferi yapınAçıklamaya sipariş numaranızı yazın.
- 4Kaydınız onaylanırÖdemeniz eşleşince kaydınız tamamlanır.
Sorularınız mı var?
Danışmanlarımız hedefinize uygun dönemi ve ödeme planını sizinle birlikte netleştirsin.
İlgili eğitimler
Veri Mühendisliği ve MLOps alanındaki programlar arasından bu programa en yakın olanlar.
- Veri ve Model SLA Yönetimi
- Üretim ML Sistemlerinde Olay Müdahalesi
- Öznitelik Kayması ve Kavram Kayması İzleme
- Çevrimiçi Öğrenme ve Artımlı Model Güncelleme
- Model Dağıtım Stratejileri (Multi-Armed Bandit)
- Yapay Zeka Uygulamalarında Sürüm ve Yapılandırma Yönetimi
- Vektör Veritabanı Operasyonu ve Bakımı
- Doküman İşleme ve Parçalama (Chunking) Pipeline'ı