Context Engineering mi Prompt Engineering mi? Talimattan Bağlam Yönetimine

Ortak zemin: modelin gördüğü her şey

Büyük dil modeli bir yanıt üretirken yalnızca o anda kendisine verilen metni görür. Bu metin, sistem talimatı, kullanıcı mesajı, önceki konuşma, getirilen belgeler, araç tanımları ve araçlardan dönen sonuçlardan oluşur. Prompt mühendisliği de bağlam mühendisliği de bu girdiyi iyileştirerek daha doğru, tutarlı ve işe yarar yanıt almayı hedefler.

Anthropic'in mühendislik yazısı bu ilişkiyi açıkça kurar: prompt mühendisliği istenen sonucu almak için dil modeli talimatlarını yazma ve düzenleme yöntemleridir; bağlam mühendisliği ise çıkarım sırasında modelin önündeki en uygun bilgi kümesini seçme ve sürdürme stratejilerinin bütünüdür. Yazı, bağlam mühendisliğini prompt mühendisliğinin doğal devamı olarak tanımlar. Yani biri ötekinin rakibi değil, kapsamı genişlemiş halidir.

Ölçüt ölçüt farklar

• Odak: Bağlam mühendisliği / modelin bağlam penceresine giren tüm içerik ve bunun zaman içindeki değişimi. Prompt mühendisliği / talimatın kendisi: rol, görev tanımı, biçim, örnekler, kısıtlar.
• Zaman boyutu: Bağlam mühendisliği / çok adımlı, uzun süren işlerde her turda neyin tutulacağı, neyin özetleneceği, neyin atılacağı. Prompt mühendisliği / çoğunlukla bağımsız bir istek ya da kısa bir sohbet.
• Tipik kullanıcı: Bağlam mühendisliği / yapay zeka ajanı, RAG sistemi ya da kodlama asistanı kuran geliştirici ve mimar. Prompt mühendisliği / sohbet arayüzünü kullanan çalışan, içerik üreticisi, analist ve aynı zamanda geliştirici.
• Araçlar: Bağlam mühendisliği / geri getirme ve arama, bellek, araç tasarımı, özetleme ve sıkıştırma, alt ajan mimarisi. Prompt mühendisliği / şablonlar, örnekli yönlendirme, adım adım düşünme isteği, çıktı biçimi tanımı.
• Hata türü: Bağlam mühendisliği / modelin ilgisiz ya da çelişkili bilgiyle boğulması, önemli bilginin bağlam dışında kalması. Prompt mühendisliği / belirsiz görev, eksik kısıt, yanlış biçim.

Neden ayrı bir başlık oldu: bağlamın bozulması

Bağlam penceresi büyüdükçe her şeyi içine koymak cazip gelir. Ancak Anthropic'in yazısı, bağlamdaki metin uzadıkça modelin bilgiyi doğru hatırlama yeteneğinin kademeli olarak azaldığını anlatır ve buna bağlam bozulması (context rot) der. Bu düşüş ani bir uçurum değil, yavaş bir eğimdir; yine de uzun süren bir ajan oturumunda belirgin hale gelir.

Bu yüzden soru "talimat nasıl daha iyi yazılır" olmaktan çıkar, "bu adımda modelin önünde hangi bilgi olmalı" sorusuna döner. Örneğin bir müşteri destek ajanı, kapsamlı ürün belgelerinin tamamını değil, yalnız sorulan ürünle ilgili bölümü, müşterinin geçmiş talebinin özetini ve kullanabileceği araçların net tanımını görmelidir. Talimat kusursuz olsa bile yanlış bağlam yanlış yanıt üretir.

Bağlam mühendisliğinin temel teknikleri

Anthropic'in yazısında öne çıkan teknikler şöyle özetlenebilir: • Sıkıştırma (compaction): Konuşma bağlam sınırına yaklaştığında içerik özetlenir ve iş bu özetle sürdürülür. Eski araç çıktılarını temizlemek bunun hafif bir biçimidir. • Yapılandırılmış not tutma: Ajan, yapılacaklar listesi ya da not dosyası gibi kalıcı bir alana not yazar ve gerektiğinde bu notu yeniden okur. • Alt ajan mimarisi: Odaklı işleri temiz bir bağlamla çalışan alt ajanlar yapar, ana ajana yalnız özet döner. • Tam zamanında getirme: Her şeyi baştan yüklemek yerine dosya yolu, sorgu ya da bağlantı gibi hafif referanslar tutulur, veri ihtiyaç anında araçla çekilir. • Araç tasarımı: Araçlar az yer kaplayan, kendi içinde anlaşılır ve birbiriyle çakışmayan biçimde tanımlanır.

Bu tekniklerin ortak noktası, talimatın metnini değil, modelin önüne gelen bilginin seçimini ve düzenini yönetmeleridir.

Prompt mühendisliği hâlâ nerede belirleyici?

Bağlam mühendisliği kavramı yaygınlaştıkça prompt mühendisliğinin önemini yitirdiği düşünülebilir; durum öyle değildir. İyi seçilmiş bir bağlam da net bir talimata ihtiyaç duyar. Görevin açık tanımı, beklenen çıktı biçimi, iyi ve kötü örnekler, sınırlar ve öncelikler hâlâ prompt mühendisliğinin konusudur.

Anthropic'in yazısı sistem talimatı için "doğru yükseklik" kavramını kullanır: talimat, her durumu ayrı ayrı kodlayan kırılgan kurallar ile modele yön vermeyen belirsiz genel ifadeler arasında dengede olmalıdır. Bu denge kurmak klasik prompt mühendisliği becerisidir. Günlük ofis işlerinde, rapor taslağı, e-posta, özet ya da analiz isteyen çalışanlar için de belirleyici beceri hâlâ iyi talimat yazmaktır; bu kullanıcılar genellikle kendi bağlam altyapısını kurmaz.

Hangi durumda hangisine yatırım yapılmalı?

Karar, yapılan işin türüne göre verilir: • Kısa ve bağımsız görevler, sohbet arayüzünde verimlilik, departmana özel şablonlar: önce prompt mühendisliği. • Kurum belgeleriyle konuşan asistanlar, çok adımlı yapay zeka ajanları, uzun kodlama oturumları: bağlam mühendisliği belirleyici hale gelir. • Model aynı soruya bazen doğru bazen yanlış yanıt veriyorsa ve talimat netse: sorun büyük olasılıkla bağlamdadır, getirilen belgelere ve konuşma geçmişine bakın. • Model doğru bilgiye sahip ama istenen biçimde yanıt vermiyorsa: sorun büyük olasılıkla talimattadır.

Kurumsal ekipler için makul sıra, önce tüm çalışanlara sağlam prompt yazma alışkanlığı kazandırmak, ardından yapay zeka uygulaması geliştiren ekipte bağlam tasarımını ayrı bir yetkinlik olarak ele almaktır.

Sık yapılan hatalar da bu ayrımı gösterir. Bağlam sorununu talimatla çözmeye çalışmak, örneğin modelin yanlış belgeye dayanarak yanıt verdiği durumda talimata "yalnız doğru belgeyi kullan" cümlesi eklemek, kalıcı sonuç vermez; doğru belgeyi getiren arama adımı düzeltilmelidir. Tersine, her şeyi bağlama doldurmak da çözüm değildir: ilgisiz belgeler, uzun araç çıktıları ve birbirini tekrar eden geçmiş mesajlar modelin dikkatini dağıtır. Değişiklik yaparken talimatı ve bağlamı ayrı ayrı sürümlemek, hangi değişikliğin sonucu iyileştirdiğini görmeyi kolaylaştırır.

Mindset programlarında bu yetkinlikler

Prompt Mühendisliği: Kurumsal Verimlilik Programı, temel prompt yapısı, gelişmiş teknikler, departmana özel uygulamalar ve kurumsal prompt kütüphanesi başlıklarıyla sohbet arayüzünü günlük işte kullanan ekipler için uygundur. Prompt Engineer Programı ise RAG ile istem entegrasyonu ve istem güvenliği gibi başlıklarla talimat yazmayı uygulama geliştirmeye bağlar.

Bağlam tarafına odaklanan geliştirici ekipler için Agent Memory ve Bağlam Yönetimi eğitimi, kısa vadeli bağlam yönetimi ve vektör tabanlı uzun vadeli bellek gibi başlıklarla ajanların hafıza tasarımını; LLM Uygulamalarında Bağlam Penceresi Yönetimi ise bağlam bütçesi, sıkıştırma ve seçim stratejilerini işler.