- الرئيسية
- مركز التعلم
- أين تضع الموافقات البشرية في سير عمل البرمجة بالذكاء الاصطناعي
أين تضع الموافقات البشرية في سير عمل البرمجة بالذكاء الاصطناعي
آخر تحديث
أي اللحظات في التسليم بمساعدة الذكاء الاصطناعي تحتاج إلى موافقة شخص، وكيف يعمل الفصل بين المهام حين يكتب وكيل الكود، وكيف تتجنب الموافقات الشكلية.
في هذه الصفحة
مكان الموافقات البشرية هو النقاط التي يصبح فيها إلغاء عمل وكيل الذكاء الاصطناعي صعبا أو يبدأ فيها بالتأثير في أشخاص آخرين: قبل أن يدمج التغيير في الفرع الرئيسي، وقبل نشره إلى بيئة الإنتاج، وقبل أن يبدأ الوكلاء أنواعا خطرة من العمل مثل تغييرات البنية التحتية أو التبعيات. وكل ما عدا ذلك يمكن أن يعمل تلقائيا خلف البوابات. ولكي يكون للموافقة معنى، يجب أن تأتي من شخص غير من طلب التغيير، وأن تتخذ والأدلة أمام صاحبها، وأن تنطبق على الإصدار نفسه الذي يطلق.
تتعمق هذه الصفحة في قسم الإنسان في الحلقة من كيف يندمج وكلاء الذكاء الاصطناعي في دورة حياة البرمجيات؟.
في الحلقة، وفوق الحلقة، وخارج الحلقة
ثلاثة مستويات من المشاركة البشرية يستحق التمييز بينها، لأن الفرق كثيرا ما تقول أحدها وتقصد غيره.
| المستوى | ما يفعله الشخص | ما يناسبه |
|---|---|---|
| في الحلقة | يوافق قبل أن يسري عمل الوكيل | الدمج، والنشر إلى الإنتاج، وتغييرات البنية التحتية والوصول |
| فوق الحلقة | يراقب الوكيل وهو يتصرف ويستطيع إيقافه أو عكس عمله | أتمتة منخفضة الخطورة مع مراقبة جيدة وتراجع سهل |
| خارج الحلقة | لا يراجع إلا بعد ذلك، إن راجع أصلا | عمل تفحص نتائجه بوسائل أخرى، مثل المسودات |
ومعظم أعمال البرمجة بالذكاء الاصطناعي تجمع بينها: يخطط الوكلاء ويكتبون ويختبرون وحدهم، ويوافق الأشخاص عند نقاط محددة قليلة، وتسجل العملية كلها للمراجعة لاحقا.
أي القرارات تحتاج إلى شخص
من الاختبارات المفيدة أن تسأل: ماذا يحدث إذا أخطأ الوكيل ولم يلاحظ أحد ذلك لأسبوع؟ فحيث يكون الجواب «لا شيء يذكر» أو «نعكسه»، تكفي الأتمتة مع البوابات. وحيث يتعلق الجواب بالعملاء أو البيانات أو المال أو الأمان أو حادثة، ضع شخصا أمامه.
قرارات تحتاج عادة إلى موافقة:
- الدمج في الفرع الرئيسي. بعد هذه النقطة يبني آخرون على التغيير.
- النشر إلى بيئة الإنتاج. خاصة حين يكون التراجع بطيئا أو تكون هناك عمليات ترحيل للبيانات.
- تغيير البنية التحتية أو خطوط CI أو التحكم في الوصول. فأثر هذه يتجاوز التطبيق.
- إضافة التبعيات أو ترقيتها. فكل حزمة جديدة مورّد جديد.
- بدء عمل مكلف أو طويل، مثل إعادة الهيكلة الكبيرة أو المهام المجدولة عبر مستودعات كثيرة.
- كل ما يرسل بيانات إلى خارج المؤسسة.
وقرارات لا تحتاج إليها عادة: أي الملفات يقرأ الوكيل، وكيف يبني خطته، وأي الاختبارات يكتب، وهل يعيد محاولة خطوة فاشلة. فالموافقة على هذه تضيف احتكاكا دون أن تضيف أمانا.
الفصل بين المهام حين يكتب وكيل الكود
الفصل بين المهام ضابط قديم: من يجري التغيير لا ينبغي أن يكون الوحيد الذي يوافق عليه. ومع وكلاء الذكاء الاصطناعي، يصبح السؤال: من يعد الكاتب؟
الوكيل لا يمكن مساءلته عن أي شيء، فالكاتب هو الشخص الذي أعطاه المهمة. فهو من اختار الهدف والنطاق، وكثيرا ما اختار النهج أيضا، وهو الأشد ميلا إلى الاعتقاد بأن النتيجة صحيحة. فموافقته لا تضيف إلا قليلا من الاستقلالية.
عمليا:
- لا ينبغي أن يكون صاحب الطلب الموافق الوحيد حين يستطيع شخص آخر الموافقة.
- ينبغي أن تحتسب الموافقات لكل شخص، فلا يحتسب تصويت شخص واحد مرتين موافقتين.
- يمكن أن تسمي المسارات الحساسة موافقين محددين، مثل مراجع أمني لكود المصادقة.
- المطورون الذين يعملون وحدهم حالة حقيقية. فالفريق المكون من شخص واحد لا يستطيع الفصل بين المهام، وينبغي أن تسمح العملية بالموافقة الذاتية هناك بدل فرض حيلة للالتفاف، مع تسجيل أن ذلك حدث.
ما يحتاج الموافق إلى رؤيته
الموافق الذي يطلب منه القرار بلا سياق إما أن يمنع كل شيء أو يوافق على كل شيء. ضع الأدلة بجانب القرار:
- المهمة التي أعطيت للوكيل، ليحكم الموافق هل يفعل التغيير ما طلب؛
- الفروقات نفسها، لا ملخصا لها؛
- نتائج الاختبارات لهذا الإصدار بالضبط، ومنها كل ما تخطي أو لم يعمل؛
- ملاحظات المراجعة وطريقة فرز كل منها؛
- أي قرارات للسياسة، مثل مسار محمي اشترط هذه الموافقة.
وإذا غاب دليل ما، ينبغي أن يرى الموافق أنه غائب.
تجنب إرهاق الموافقات
تفقد الموافقات قيمتها حين تكثر. فالأشخاص الذين يوافقون على عشرات التغييرات التافهة يوميا يتوقفون عن القراءة، وتصبح موافقاتهم أختاما شكلية.
- وافق على أشياء أقل وأكثر معنى. استخدم السياسة لتقرر أي التغييرات تحتاج إلى شخص، ودع البوابات تتولى الباقي.
- أبق التغييرات صغيرة. التغيير المركز يمكن قراءته؛ أما المترامي فيقرأ على عجل.
- اجعل الرفض رخيصا. مع الوكلاء، يمكن إعادة التغيير المرفوض بمهمة أفضل. وينبغي أن يشعر الموافقون بحرية قول لا.
- اشترط سببا للرفض. فهو يحسن المحاولة التالية، وينشئ سجلا لما لن يقبله الفريق.
- دع الموافقات تنتهي صلاحيتها. فالطلب الذي يبقى أسابيع يوافق عليه في ضوء قاعدة كود تغيرت.
ربط الموافقات بالإصدارات
الموافقة بيان عن تغيير بعينه. فإذا عدل التغيير بعد الموافقة، على يد شخص أو في تشغيل لاحق لوكيل متابعة، ينبغي أن تعاد الموافقة إلى حالتها الأولى. وإلا أمكن استبدال تغيير مراجع بتغيير غير مراجع بعد القرار.
والأمر نفسه ينطبق على الأدلة. فنتائج الاختبارات وملاحظات المراجعة ينبغي أن تخص الإصدار الذي أنتجت له، لكي تتطابق أدلة الموافق مع الكود الذي يطلق.
تسجيل القرار
ينبغي أن تترك كل موافقة سجلا: من وافق أو رفض، ومتى، وعلى أي إصدار، وبأي ملاحظة، وأي الأدلة كانت متاحة. وهذا السجل هو ما سيبحث عنه المدقق، أو مراجعة الحادثة، أو من يصون الكود مستقبلا، حين يسألون كيف وصل تغيير إلى بيئة الإنتاج.
كيف يفعل AI CodeOps ذلك
في AI CodeOps، يحتاج كل تغيير في الكود من جلسة إلى مراجعة موافق عليها قبل فتح طلب السحب الخاص به، أيا كان وضع الثقة في مساحة العمل. ومن بدأ الجلسة لا يستطيع الموافقة على تغييرها ما دام في مساحة العمل شخص آخر يستطيع ذلك؛ أما مساحة العمل التي فيها شخص واحد فتستطيع الموافقة على عملها. ويستطيع المالكون والمسؤولون ومسؤولو الأمان الموافقة افتراضيا، ويمكن منح الصلاحية لدور مخصص، ويمكن أن يسمي الطلب موافقين محددين. وتحتسب الموافقات لكل شخص مستقل.
رفض واحد ينهي الطلب، والرفض يحتاج إلى سبب. وتنتهي صلاحية مراجعات تغييرات الكود بعد 7 أيام. وتعديل التغيير بعد الموافقة عليه يعيد موافقته إلى حالة الانتظار.
وتضيف قواعد السياسة نقاط تفتيش أبكر. فالقاعدة ask على workflow.dispatch تحتجز الجلسة قبل بدئها، مثلا لكل ترقية للتبعيات، وتنتهي صلاحية ذلك الطلب بعد 3 أيام. والقاعدة ask على diff.apply مع مسار مثل infra/** تشترط مراجعة موافقا عليها للتغييرات على تلك الملفات. ويسجل كل قرار في سجل التدقيق، والموافقات وكل صوت جزء من حزمة الأدلة الموقّعة للتغيير.
راجع الموافقات والسياسات للقواعد كاملة، ومدخل الإنسان في الحلقة في مسرد المصطلحات، وسجلات التدقيق والأدوار والسياسات لنظرة عامة.
الأسئلة الشائعة
ما الفرق بين الإنسان في الحلقة والإنسان فوق الحلقة؟
في الحلقة، لا يسري عمل الوكيل إلى أن يوافق عليه شخص. وفوق الحلقة، يتصرف الوكيل وحده ويراقب شخص ويستطيع التدخل. وخارج الحلقة، لا ينظر أحد إلى أن يقع خطأ ما.
هل يستطيع من كتب الموجه لوكيل الذكاء الاصطناعي الموافقة على تغييره؟
فقط حين لا يستطيع ذلك أحد غيره. فمن كتب المهمة هو فعليا كاتب التغيير، وموافقته موافقة الكاتب على نفسه. والمطور الذي يعمل وحده لا بديل لديه، وينبغي أن يبين السجل ذلك.
كم موافقا يحتاج التغيير الذي يكتبه الذكاء الاصطناعي؟
موافق مستقل واحد هو الحد الأدنى المعتاد قبل الدمج. وأضف ثانيا، أو موافقا محددا مثل مراجع أمني، للمسارات الحساسة مثل المصادقة أو المدفوعات أو البنية التحتية.
ماذا يجب أن يحدث إذا عدل التغيير بعد الموافقة؟
يجب ألا تبقى الموافقة محتسبة. فقد انطبقت على الإصدار الذي رآه الموافق، والإصدار المعدل يحتاج إلى قرار جديد.