Latency ve Maliyet Optimizasyonu

Dijital servislerde yanıt süresi ve birim maliyet birbirine bağlı iki kısıttır; birini tek başına iyileştirmek çoğu zaman diğerini bozar. Kullanıcı gecikmeyi doğrudan hisseder, finans tarafı ise ay sonunda faturayı görür. Ekipler bu iki büyüklüğü ayrı ayrı optimize ettiğinde ortaya ya hızlı ama sürdürülemez pahalılıkta ya da ucuz ama kullanılmaz yavaşlıkta sistemler çıkar. Program, gecikme ve maliyeti tek bir bütçe disiplini içinde ele alır: hangi p95 hedefinin hangi birim maliyetle karşılanabileceği açık bir hesaba bağlanır. Altı modül; latency ve maliyet temelleriyle başlar, istek yönetimi ve önbellekleme stratejileri, model seçimi ve token optimizasyonu, altyapı maliyet optimizasyonu ve ölçeklendirme, izleme-uyarı-raporlama başlıklarıyla ilerler ve gerçek vaka çalışmaları atölyesiyle tamamlanır. Derslerde yük testi sonuçları birlikte okunur, gecikme bütçesi bileşenlerine ayrılır, önbellek ve ölçeklendirme kararlarının fatura üzerindeki etkisi hesaplanır. Katılımcılar kendi servisleri için gecikme bütçesi, birim maliyet profili ve önceliklendirilmiş bir optimizasyon yol haritası üretir.