AI CodeOps

التخزين المؤقت للموجهات (Prompt caching)

آخر تحديث

يتيح التخزين المؤقت للموجهات للمزود إعادة استخدام بداية الموجه المعالجة، وفوترة الإدخال المتكرر بسعر أقل. كيف يعمل، وكيف يستخدمه AI CodeOps.

التخزين المؤقت للموجهات ميزة لدى مزودي النماذج تخزن بداية الموجه بعد معالجتها، ليتمكن طلب لاحق يبدأ بالنص نفسه تماما من إعادة استخدامها. ويفوتر الإدخال المعاد استخدامه بسعر أقل من الإدخال الجديد، ويعالج عادة بسرعة أكبر.

التعريف

الذاكرة المؤقتة تعتمد على مطابقة البادئة. فأطول امتداد متطابق في بداية الطلب يقرأ من الذاكرة المؤقتة؛ وتغيير حرف واحد ينهي المطابقة، وكل ما بعده يعالج ويفوتر كالمعتاد. وتنتهي صلاحية الذاكرة المؤقتة بعد وقت قصير، كثيرا ما يكون دقائق، ولا يمكن لنموذج أن يستخدم ذاكرة مؤقتة بنيت لنموذج آخر.

ويختلف المزودون في التفاصيل. تستخدم Anthropic علامات صريحة للتخزين المؤقت في الطلب، وتفرض رسوما على الكتابة في الذاكرة المؤقتة (وثائق التخزين المؤقت للموجهات)؛ أما OpenAI فتخزن الموجهات الطويلة تلقائيا. راجع الأسعار الحالية لدى مزودك.

الأهمية

يعيد الوكيل إرسال محادثته في كل دورة من حلقة الأدوات، ويكون إدخال كل استدعاء هو إدخال الاستدعاء السابق مع زيادة قليلة. وهذا هو النمط الذي تكافئه الذاكرة المؤقتة القائمة على البادئة. أما المحتوى المتغير في بداية الموجه، مثل طابع زمني، فيكسر الذاكرة المؤقتة في كل مرة.

في AI CodeOps

الجلسات التي تعمل على نماذج Claude تستخدم التخزين المؤقت للموجهات. يخزن موجه النظام إدخالا مستقلا، وتتقدم علامة في نهاية المحادثة مع كل دورة، فتقرأ حلقة الأدوات في الخطوة تاريخها من الذاكرة المؤقتة. وتحسب التكلفة المسجلة الكتابة في الذاكرة المؤقتة والقراءة منها بأسعارهما الخاصة، لا بسعر الإدخال الكامل.

وفي صفحة Usage (الاستخدام)، افتح عدد الرموز لاستدعاء نموذج لترى تقسيمه إلى قراءات من الذاكرة المؤقتة وكتابات فيها. ويتعمق دليل Learn أكثر.

الأسئلة الشائعة

هل يغير التخزين المؤقت إجابة النموذج؟

لا. يتلقى النموذج الإدخال نفسه في الحالتين. والتخزين المؤقت يغير ما يعيد المزود حسابه وطريقة فوترته.