Dil modeli servisleri klasik web servislerinden farklı davranır: yanıt süresi üretilen token sayısıyla doğrusal artar, bellek tüketimi eşzamanlı istem uzunluklarına bağlıdır ve donanım kullanımı yanlış yapılandırmada yüzde onların altına düşebilir. Bu nedenle kapasite planlaması ve maliyet kontrolü, uygulama katmanındaki önbellekleme kararlarıyla servis katmanındaki toplu işleme ayarlarının birlikte tasarlanmasını gerektirir. Program bu iki katmanı tek bir performans bütçesi altında ele alır. Altı modül boyunca katılımcılar ölçümle başlayıp optimizasyonla ilerler. Yük testi kurulduktan sonra tam yanıt önbelleği, anlamsal önbellek ve istem öneki önbelleği sırayla eklenir; her adımın isabet oranı ve maliyet etkisi kaydedilir. Servis tarafında sürekli toplu işleme, KV cache yönetimi ve eşzamanlılık ayarları uygulanır. Program sonunda her katılımcı, kendi senaryosu için hedef gecikme ve maliyet değerlerini karşılayan bir performans bütçesi ve yapılandırma seti üretir.