Döngüdeki insan (human-in-the-loop, HITL)
Son güncelleme
Döngüdeki insan, otomatik bir sistem harekete geçmeden önce belirli noktalarda bir kişinin inceleme veya onay yapması demektir. Yapay zekâ ile kodlamadaki yeri ve AI CodeOps'ta uygulanışı.
Döngüdeki insan (human-in-the-loop, HITL), bir kişinin belirli karar noktalarında sürece katıldığı bir sistemi tanımlar: otomatik bir sistemin önerdiği şeyi, etkili olmadan önce incelemek, onaylamak, düzeltmek veya reddetmek. İşi otomasyon yapar; sonuç doğuran eylemler üzerindeki yetki ise bir insanda kalır.
Nedir
Bu kalıp bir yelpaze üzerinde yer alır. Bir ucunda bir kişi her eylemi onaylar. Diğer ucunda sistem tek başına hareket eder ve insanlar yalnızca sonradan denetler ("human-on-the-loop"). Pratikteki sistemlerin çoğu belirli kontrol noktaları seçer: pahalı, geri döndürülemez veya riskli eylemlere bir kişi bakar, geri kalanı kendi başına çalışır.
Bir kontrol noktasını göstermelik olmaktan çıkarıp gerçek kılan iki özellik vardır. Onaylayıcı neyi onayladığını görmelidir ve onay, yayına çıkan şeyin tam olarak kendisine ait olmalıdır: iş sonradan değişirse onay ona taşınmamalıdır.
Neden önemlidir
Yapay zekâ ajanları, testlerin yakalamadığı şekillerde yanlış olan, makul görünen kod üretebilir. Merge'den önceki bir insan kontrol noktası, hesap verebilirliği adı belli bir kişiye bağlar, ürün amacı gibi otomasyonun yargılayamayacağı sorunları yakalar ve denetçilere kimin karar verdiğine dair net bir kayıt sunar. Bu, birçok değişiklik yönetimi kontrolünün insanların yazdığı değişikliklerden zaten beklediği şeydir.
AI CodeOps'ta
Kontrol noktası pull request'ten öncedir. Bir oturum bir diff ile tamamlandığında AI CodeOps, Review & Gate → Approvals altında bir inceleme talebi açar:
- Diff'i bulguların ve test sonuçlarının yanında okumak için Review the proposed changes seçeneğini seçin.
- Approve (isteğe bağlı bir notla) veya Reject (gerekçe zorunludur) seçeneğini seçin. Çalıştırma sayfası aynı işlemleri Accept changes ve Reject olarak sunar.
- Onaylamak, kalite kapısı da geçerse pull request'i açar.
Süreci dürüst tutan kurallar:
approvers owners, admins, security admins, or a role with approval:decide
two-person rule the person who launched the session can't approve while
someone else in the workspace can
rejection one reject ends the request
edits editing the change after approval resets it to pending
expiry code-change reviews 7 days; held session starts 3 days
Politika kuralları daha erken kontrol noktaları ekleyebilir. workflow.dispatch veya agent.dispatch üzerindeki bir ask kararı, biri onaylayana kadar bir oturumu bekletir; diff.apply veya github.push üzerindeki bir ask ise pull request'ten önce onaylanmış bir inceleme gerektirir. Bkz. politika motoru.
Her karar denetim günlüğüne approval.decided olarak kaydedilir; onay ve her oy, değişikliğin imzalı kanıt paketine girer.
İlgili terimler
- Politika motoru: ne zaman bir kişiye ihtiyaç olduğuna karar verir.
- Rol tabanlı erişim kontrolü (RBAC): o kişinin kim olabileceğine karar verir.
- Çok ajanlı sistem: bir kişinin incelediği otomatik iş.
Sık sorulan sorular
AI CodeOps'taki bir yapay zekâ oturumu, bir insan olmadan pull request açabilir mi?
Hayır. Kod değişikliği üreten her oturum bir inceleme talebi açar ve pull request ancak bir kişi onu onayladıktan ve kalite kapısı geçtikten sonra açılır.
Kendi başlattığım bir oturumdan gelen değişikliği onaylayabilir miyim?
Çalışma alanında onay verebilecek başka biri varken hayır. Tek kişilik bir çalışma alanı kendi değişikliğini onaylayabilir.
Kimse karar vermezse ne olur?
Bir kod değişikliği incelemesinin süresi 7 gün sonra dolar ve değişiklik engelli kalır. Onu yeniden açmak için çalıştırma sayfasında yeniden Request approval seçeneğini seçin.