Bir dil modeline istek atmak kolaydır; bu isteği kurumsal bir servise dönüştürmek ise akış (streaming), oran sınırı, tekrar deneme, maliyet kontrolü, gözlemlenebilirlik ve sürüm yönetimi gibi klasik API mühendisliği sorunlarını gündeme getirir. Bu program, yapay zeka özelliklerini deneysel betiklerden çıkarıp bakımı yapılabilir, ölçülebilir ve tüketilmesi kolay ürün bileşenlerine dönüştürmeyi hedefler. Altı modül, servis tasarımından SDK yayınına uzanır: API tasarımı, dayanıklılık ve maliyet yönetimi, akış ve uzun süren işlemler, güvenlik ve kötüye kullanım kontrolü, SDK paketleme, gözlemlenebilirlik ve yayın. Katılımcılar laboratuvarda bir özet çıkarma ve sınıflandırma servisini baştan kurar; yük altında davranışını ölçer, önbellek ve oran sınırı ekler, ardından aynı servisi tipli bir istemci kütüphanesi olarak paketler. Program çıktısı, API belgeleri, örnek kodlar ve testleriyle birlikte yayınlanabilir bir servis ve SDK projesidir.