AI CodeOps

Bağlam penceresi (context window)

Son güncelleme

Bağlam penceresi, bir modelin tek bir yanıt için hesaba katabildiği, yanıtın kendisi dahil tüm metindir. Nelerin sayıldığı ve AI CodeOps'un adımları nasıl küçük tuttuğu.

Bağlam penceresi, bir dil modelinin bir yanıt üretirken hesaba katabildiği, token cinsinden ölçülen ve yanıtın kendisini de içeren metin miktarıdır. Tek bir istek için modelin çalışma belleği gibi işler.

Nedir

Bir istekteki her şey ona dahil edilir: sistem prompt'u, araç sonuçları dahil her mesaj, görseller ve belgeler, araç tanımları ve modelin ürettiği çıktı (düşünme dahil). Anthropic'in bağlam penceresi kılavuzu model başına boyutları listeler; güncel Claude modellerinde bu boyut 200.000 ile 1 milyon token arasındadır.

Girdi tek başına pencereden büyükse istek reddedilir. Uzun döngüler çalıştıran ajanlar pencereyi; araç sonuçlarını kısaltarak, eskilerini temizleyerek veya önceki turları özetleyerek yönetir.

Neden önemlidir

Kodlama ajanları pencereleri hızla doldurur: kaynak dosyalar, diff'ler, test çıktıları ve araç sonuçları birikir. Dolu bir pencere her çağrıda para tutar ve Anthropic, token sayısı arttıkça doğruluğun ve hatırlamanın azaldığını belirtir.

AI CodeOps'ta

Bir oturum, adımdan adıma tek bir uzun sohbet taşımaz. Her adım kendi ajanının talimatları, görev ve üst sınırı belirlenmiş bir bağlamla başlar:

repository context    a pack of about 32,000 bytes, 12,000 at most per file
earlier steps         up to 4,000 characters each, 24,000 in total
MCP tool result       shortened to 8,000 characters
tool results          the tool loop stops after 64,000 bytes in a step

Bir adımın içinde, araç döngüsünün mesajları birikir; prompt önbelleklemenin yardımcı olduğu yer burasıdır.

Sık sorulan sorular

Daha büyük bir bağlam penceresi her zaman daha mı iyidir?

Hayır. Penceredeki her token girdi olarak faturalandırılır ve bağlam büyüdükçe modeller ayrıntıları hatırlamakta zorlanabilir. Pencereye neyin girdiği, ne kadarının sığdığı kadar önemlidir.

Prompt önbellekleme penceredeki alanı boşaltır mı?

Hayır. Önbelleğe alınmış token'lar da pencereye dahil sayılır. Önbellekleme, onlar için ne ödediğinizi değiştirir; sayılıp sayılmadıklarını değil.