- Ana sayfa
- Öğrenme merkezi
- Yapay zekâ kodlama bütçeleri: esnek limitler, kesin limitler ve iş akışı başına limitler
Yapay zekâ kodlama bütçeleri: esnek limitler, kesin limitler ve iş akışı başına limitler
Son güncelleme
Yapay zekâ kodlama ajanları için nasıl bütçe yapılır: bir dönem seçmek, esnek ve kesin limitler belirlemek, uygulamanın nerede gerçekleşmesi gerektiği ve iş akışı başına limitler.
Bu sayfada
Yapay zekâ kodlama bütçesi, faturada fark edilmek yerine ajanları çalıştıran araçlar tarafından uygulanan, model kullanımına dair bir harcama limitidir. Uygulanabilir bir bütçenin bir dönemi (gün, hafta veya ay gibi); harcama limite yaklaştıkça insanları uyaran bir esnek limiti; yeni oturumları reddeden ve çalışanları bir sonraki model çağrılarından önce durduran bir kesin limiti ve en çok harcama yapabilen iş akışları için ayrı limitleri vardır. Bir bütçeyi bir rapordan ayıran uygulanmasıdır: limitte hiçbir şey durmuyorsa bu bir tahmindir.
Bu sayfa, Yapay zekâ ile kodlama ne kadara mal olur? rehberinde anlatılan kontrolleri daha ayrıntılı ele alır.
Fatura neden bir kontrol değildir
Model sağlayıcıları olaydan sonra faturalandırır. Bir döngüye takılmış bir ajan, günde bir yerine saatte bir çalışacak şekilde ayarlanmış bir zamanlama veya en pahalı modele verilmiş büyük bir görev, kimse bakmadan bir aylık beklenen tutarı harcayabilir. Aylık bir fatura bunun olduğunu gösterir; onu durdurmaz.
Ajanlar bunu sohbetten daha olası kılar, çünkü maliyetleri uzunluklarından daha hızlı büyür: her tur büyüyen bir bağlamı yeniden gönderir. Ajan işi için bir bütçe, iş çalışırken harekete geçmelidir.
Dönemi seçmek
| Dönem | Güçlü yanı | Zayıf yanı |
|---|---|---|
| Günlük | Kontrolden çıkan harcamayı bir gün içinde yakalar | Yoğun ama meşru bir gün işi engelleyebilir |
| Haftalık | Günlük dalgalanmaları yumuşatır | Pazartesi çıkan bir sorun haftanın parasını salıya kadar tüketebilir |
| Aylık | Faturalarla ve planlamayla örtüşür | Kontrolden çıkan harcamayı en geç yakalar |
| Kayan 30 gün | Ay başında ani sıfırlanma uçurumu yok | Açıklaması ve faturalarla mutabakatı daha zor |
Her dönem için iki ayrıntı önemlidir: sıfırlandığı saat dilimi ve sıfırlanma anında çalışan işe ne olduğu. İkisini de yazın; böylece sıfırlanmış "olması gereken" bir limit sürpriz olmaz.
Esnek limitler ve kesin limitler
Esnek limit bir uyarı çizgisidir. Aşıldığında iş devam eder, ancak insanlar harcamanın yüksek olduğunu görür. Birinin tepki vermesini sağlamak için vardır: neyin çalıştığına bakmak, bir zamanlamayı duraklatmak veya limiti bilinçli olarak yükseltmek.
Kesin limit asıl bütçedir. Aşıldığında yeni iş reddedilir ve çalışan iş durur.
Esnek limiti, kesin limitten önce harekete geçmeye zaman kalacak kadar düşük belirleyin; örneğin dönemin bütçesinin çoğu harcandıktan sonra. Uyarının bakan insanlara ulaştığından emin olun: kimsenin ziyaret etmediği bir sayfadaki bir çizgi uyarı değildir.
Uygulamanın nerede gerçekleşmesi gerekir
Bir bütçe üç noktada kontrol edilebilir ve yalnızca bazıları faturayı sınırlar.
- Bir oturum başlarken. Gerekli ama yeterli değil: limitin hemen altında başlayan uzun tek bir oturum onu çok aşabilir.
- Her model çağrısından önce. Harcamayı sınırlayan budur. Limiti geçen bir oturum bir sonraki çağrısından önce durur ve harcamayı limitin ötesine yalnızca hâlihazırda devam eden çağrılar taşıyabilir.
- Olaydan sonra, faturalandırma verilerinden. Mutabakat için faydalı, kontrol için çok geç.
Kontrol, iş başlarken hata durumunda kapalı da kalmalıdır. Bütçe servisi yanıt veremiyorsa, yeni işi başlatmayı reddetmek onu ölçümsüz başlatmaktan daha güvenlidir.
İş akışı başına ve ekip başına limitler
Tek bir çalışma alanı limiti her tür işi aynı şekilde ele alır. Pratikte harcamanın çoğunu birkaç iş akışı oluşturur: uzun çok ajanlı iş akışları, büyük yeniden düzenlemeler ve bir zamanlamayla çalışan her şey. Bunlara çalışma alanı bütçesi içinde kendi limitlerini verin; böylece tek bir iş türü, diğer her şey için ayrılmış parayı kullanamaz.
Ayrı limitler en çok şunlar için faydalıdır:
- Kimse izlemeden harcama yapan zamanlanmış işler.
- Oturum başına maliyeti en yüksek olan uzun, çok adımlı iş akışları.
- Yeni bir model veya yeni bir görev türü denemek gibi deneyler.
İlk bütçeyi tahmin etmek
Kopyalanabilecek güvenilir bir sektör rakamı yoktur. Kendi kullanımınızdan tahmin edin:
aylık harcama ≈ kişi sayısı × iş günü başına kişi başına oturum × iş günü sayısı × oturum başına ortalama maliyet
Oturum başına ortalama maliyeti birkaç haftalık gerçek işten ölçün, çünkü görevlerinize, modellerinize ve oturum uzunluğunuza büyük ölçüde bağlıdır. Kesin limiti tahminin üzerinde pay bırakarak belirleyin, ardından gördüklerinize göre ayarlayın. Yapay zekâ ile kodlama ne kadara mal olur? rehberindeki hesaplanmış örnek aritmetiği gösterir.
Limite ulaşıldığında
Kesin bir limit eninde sonunda birinin işini durduracaktır. Buna göre plan yapın; böylece tepki bir telaş değil, bir karar olur.
- Nedenini söyleyin. Mesaj, ulaşılan limiti ve onu kimin değiştirebileceğini belirtmelidir.
- Kimin yükseltebileceğine karar verin ve yetkili kişiler için bunu hızlı hâle getirin. Yükseltilmesi günler süren bir limit geçici çözümleri davet eder.
- Değişiklikleri kaydedin. Bir bütçedeki her değişiklik, onu kimin yaptığını içeren bir denetim kaydı bırakmalıdır.
- Limiti yükseltmeden önce parayı neyin harcadığına bakın. Kontrolden çıkmış bir zamanlama finanse edilmeyi değil, düzeltilmeyi gerektirir.
Harcamayı gözden geçirmek
Bir bütçe yürürlüğe girdikten sonra onu düzenli aralıklarla gözden geçirin:
- dönemin en pahalı oturumları ve görevlerinin daha küçük olup olamayacağı;
- limitlerin veya model seçimlerinin nerede değişmesi gerektiğini görmek için iş akışına ve modele göre harcama;
- zamanlamalar ve her birinin hâlâ maliyetine değip değmediği;
- esnek limite ve kesin limite ne sıklıkla ulaşıldığı.
Kendi sağlayıcı anahtarınızı kullanıyorsanız sağlayıcıda da limitler belirleyin. Sağlayıcı tarafındaki bir limit, başka bir şey yanlış davranırsa bir son güvencedir.
AI CodeOps bunu nasıl yapar
AI CodeOps'ta Owner, Admin ve Billing Admin rolleri Configure → Billing → Cost budget altında bir çalışma alanı maliyet bütçesi belirler:
- Dönem: günlük, haftalık, aylık (varsayılan) veya kayan 30 gün. Dönemler UTC'ye göre başlar ve haftalar pazartesi başlar.
- Esnek limit: aşıldığında konsolda bir oturum başlatmak dönemin harcamasını içeren bir uyarı gösterir ve aşım, Secure → Policies sayfasındaki Recent decisions altına kaydedilir. Oturumlar çalışmaya devam eder; e-posta veya bildirim gönderilmez.
- Kesin limit: yeni oturumlar reddedilir ve bütçe her model çağrısından önce kontrol edilir; böylece limiti geçen çalışan bir oturum Blocked by budget durumuyla durur. Hâlihazırda devam eden tek bir model çağrısı harcamayı limitin biraz üzerine taşıyabilir.
- İş akışı başına limitler: çalışma alanı limitine ek olarak her iş akışı için isteğe bağlı bir kesin limit. Ajan başına bütçe yoktur; her ajan adımının maliyeti oturumun sayfasında gösterilir.
Harcama çubuğu kesin limitin %70'inden itibaren kehribar, %90'ından itibaren kırmızı olur. Bir oturum başlarken bütçe kontrolü başarısız olursa oturum ölçümsüz çalıştırılmak yerine engellenir; bir oturum sırasında başarısız olursa oturum çalışmaya devam eder. Bütçenin oluşturulması ve sonraki her değişiklik denetim günlüğüne budget.updated olarak kaydedilir.
150 $'da uyarı ve zamanlanmış bağımlılık yenilemeleri için 40 $ limit içeren 200 $'lık haftalık bir bütçe, ABD dolarının milyonda biri cinsinden:
{
"enabled": true,
"period": "weekly",
"softLimitMicros": 150000000,
"hardLimitMicros": 200000000,
"perWorkflowLimits": { "dependency-refresh": 40000000 }
}
Bütçe, platformun modellerinde, kredilerle veya kendi sağlayıcı anahtarınızla çalışsın, her oturuma uygulanır. Platform modellerinin ayrıca kademe başına aylık bir token kotası vardır ve faturalandırması kurulmuş çalışma alanları kredi harcaması için aylık bir limit belirleyebilir. AI CodeOps açık beta süresince ücretsizdir; bkz. fiyatlandırma.
Her ayar için Maliyet kontrolleri, harcamanın nerede okunacağı için Kullanım ve harcama ve genel bakış için Yapay zekâ kodlama maliyet kontrolleri sayfasına bakın.
Sık sorulan sorular
İlk yapay zekâ kodlama bütçesini nasıl seçerim?
Sıkılaştırmadan önce ölçün. Cömert bir limit altında birkaç hafta normal iş yürütün, oturum başına maliyete ve günlük oturum sayısına bakın ve kesin limiti gördüğünüzün üzerinde pay bırakarak belirleyin. Ardından harcamayı hangi iş akışlarının ve zamanlamaların yönlendirdiğini öğrendiğinizde onu gözden geçirin.
Bir bütçe hâlihazırda çalışan oturumları durdurmalı mı?
Evet, bir sonraki güvenli noktada. Yalnızca yeni oturumları engelleyen bir limit, uzun tek bir oturumla aşılabilir. Her model çağrısından önce kontrol etmek, çalışan bir oturumun parası zaten ödenmiş işi boşa harcamadan durmasını sağlar.
Aylık mı yoksa günlük bütçe mi daha iyidir?
Aylık bütçe faturalarla örtüşür, ancak kontrolden çıkmış bir döngünün ayın tüm parasını bir öğleden sonrada harcamasına izin verir. Günlük veya haftalık bir limit bunu daha erken yakalar. Birçok ekip, pahalı veya zamanlanmış işler için iş akışı başına limitlerle birlikte aylık bir limit kullanır.
Bütçe kontrolünün kendisi başarısız olursa ne olmalı?
Yeni iş başlatmak engellenmelidir; böylece hiçbir şey ölçümsüz çalışmaz. Hâlihazırda çalışan iş için, onu durdurmak mı yoksa bitirmesine izin vermek mi gerektiğine açıkça karar verin ve bu tercihi belgeleyin.
İlgili içerikler
- Yapay zekâ ile kodlama ne kadara mal olur ve nasıl kontrol edilir?
- Maliyet kontrolleri
- Kullanım ve harcama
- Kesin harcama limitleriyle yapay zekâ kodlama maliyet kontrolleri
- Prompt önbellekleme açıklaması: yapay zekâ ajanlarının maliyetini nasıl düşürür
- Git'e bir secret commit edildiğinde ne yapmalı
- Öğrenme merkezinin tamamı