- الرئيسية
- مركز التعلم
- شرح التخزين المؤقت للموجهات: كيف يخفض تكلفة وكلاء الذكاء الاصطناعي
شرح التخزين المؤقت للموجهات: كيف يخفض تكلفة وكلاء الذكاء الاصطناعي
آخر تحديث
كيف يعمل التخزين المؤقت للموجهات، ولماذا يناسب وكلاء البرمجة الذين يعيدون إرسال سياق متنام في كل دورة، وما الذي يكسر الذاكرة المؤقتة، وكيف تتحقق من أنه يعمل.
في هذه الصفحة
يتيح التخزين المؤقت للموجهات لمزود النماذج إعادة استخدام بداية الموجه بعد معالجتها حين يبدأ طلب لاحق بالنص نفسه تماما. ويفوتر الإدخال المخزن مؤقتا بجزء من سعر الإدخال العادي، فيناسب أعباء العمل التي تعيد إرسال السياق الطويل نفسه مرات كثيرة. ووكلاء البرمجة بالذكاء الاصطناعي أوضح مثال: فالوكيل يعيد إرسال محادثته كلها في كل دورة، ومن دون التخزين المؤقت يذهب معظم فاتورة الجلسة الطويلة إلى معالجة التاريخ نفسه مرة أخرى. ولا يعمل التخزين المؤقت إلا إذا بقيت بداية كل طلب متطابقة بايتا ببايت، فهو يكافئ الوكلاء الذين يضيفون إلى سياقهم بدل أن يعيدوا كتابته.
تتعمق هذه الصفحة في التخزين المؤقت الذي يقدمه كم تكلف البرمجة بالذكاء الاصطناعي؟.
كيف يعمل التخزين المؤقت للموجهات
قبل أن يولد النموذج أي شيء، يعالج كل رمز إدخال. وفي الموجه الطويل هذا عمل حقيقي، ويفوتره المزودون رموز إدخال. فإذا بدأ الطلب التالي بالنص نفسه، يستطيع المزود الاحتفاظ بنتيجة معالجة تلك البداية (البادئة) وتخطيها في المرة التالية.
وتترتب على طريقة ذلك ثلاث خصائص:
- إنه مطابقة بادئة. تستخدم الذاكرة المؤقتة لأطول امتداد في بداية الطلب يطابق شيئا مخزنا. وتغيير حرف واحد ينهي المطابقة؛ وكل ما بعده يعالج ويفوتر كالمعتاد.
- تنتهي صلاحيته. تعيش الذاكرة المؤقتة وقتا قصيرا، عادة دقائق، وتتجدد حين تستخدم. ويعرض بعض المزودين عمرا أطول بسعر كتابة أعلى.
- يخص كل نموذج على حدة. لا يمكن لنموذج أن يستخدم ذاكرة مؤقتة بنيت لنموذج آخر، فتبديل النماذج في منتصف الجلسة يبدأ من لا شيء.
وهناك أيضا حد أدنى للطول. فالموجهات القصيرة جدا لا تخزن مؤقتا على الإطلاق.
كيف يسعّره المزودون
للتسعير الشكل نفسه لدى المزودين، مع تفاصيل مختلفة:
- القراءة من الذاكرة المؤقتة تفوتر بخصم عن الإدخال العادي.
- الكتابة في الذاكرة المؤقتة قد تكلف أكثر من الإدخال العادي، أو مثله، أو لا شيء إضافيا.
- التخزين يفرض عليه بعض المزودين رسوما للذاكرة المؤقتة طويلة العمر.
فـ Anthropic، مثلا، تستخدم علامات صريحة للتخزين المؤقت في الطلب، وتطابق بالترتيب: الأدوات، ثم موجه النظام، ثم الرسائل، وتفوتر الكتابة في الذاكرة المؤقتة الافتراضية ذات الدقائق الخمس بـ 1.25 ضعف سعر الإدخال الأساسي، وتفوتر القراءة منها بجزء صغير من سعر الإدخال الأساسي، وتتوقف النسبة الدقيقة على النموذج. وتطبق OpenAI التخزين المؤقت تلقائيا على الموجهات التي تتجاوز حدا أدنى من الطول، دون رسوم منفصلة للكتابة. وتقدم Gemini API من Google التخزين المؤقت التلقائي والذاكرات المؤقتة المنشأة صراحة التي تفوتر حسب مدة التخزين. والأسعار والقواعد تتغير، فراجع وثائق المزود قبل أن تبني خطتك عليها.
لماذا يستفيد وكلاء الذكاء الاصطناعي كثيرا
جلسة الوكيل حلقة: أرسل المحادثة، واحصل على رد، وشغل أداة، وأضف النتيجة، ثم أرسل المحادثة كلها مرة أخرى. وإدخال كل استدعاء هو إدخال الاستدعاء السابق مع زيادة قليلة. وهذا بالضبط النمط الذي تكافئه الذاكرة المؤقتة القائمة على البادئة.
وهذه جلسة توضيحية، بأعداد الرموز لا بالأسعار لكي تصح لأي نموذج: 20 استدعاء للنموذج، يرسل أولها 20,000 رمز من السياق، ويضيف كل استدعاء لاحق 4,000 رمز جديد.
- دون تخزين مؤقت، يبلغ إجمالي الإدخال عبر الجلسة 1,160,000 رمز، كلها مفوترة بسعر الإدخال الكامل.
- مع التخزين المؤقت، يقرأ كل استدعاء السياق السابق من الذاكرة المؤقتة ولا يكتب إلا الرموز الجديدة البالغة 4,000. فإذا كلفت القراءة من الذاكرة المؤقتة عُشر سعر الإدخال وكلفت الكتابة 1.25 ضعفه (أسعار توضيحية؛ راجع أسعار نموذجك)، بلغت الفاتورة ما يعادل نحو 226,000 رمز بالسعر الكامل: نحو خُمس التكلفة دون تخزين مؤقت. وسعر القراءة الأقل يوفر أكثر.
وكلما طالت الجلسة، كبرت حصة الإدخال التي هي تاريخ مخزن مؤقتا، وكبر التوفير. أما رموز الإخراج فلا يؤثر فيها التخزين المؤقت.
ما الذي يكسر الذاكرة المؤقتة
لأن المطابقة على بادئة تامة، فإن التغييرات الصغيرة قرب بداية الطلب تبطل كل ما بعدها. ومن الأسباب الشائعة:
- محتوى متغير مبكرا في الموجه. طابع زمني، أو معرف طلب، أو قيمة عشوائية في موجه النظام تتغير في كل استدعاء.
- ترتيب غير ثابت. الأدوات المسرودة بترتيب مختلف، أو JSON المسلسل بمفاتيح في ترتيب مختلف، تنتج بايتات مختلفة.
- تعديل التاريخ. إعادة كتابة الرسائل السابقة أو تلخيصها تغير البادئة. أما إضافة رسائل جديدة فلا تغيرها.
- تغيير الإعدادات في منتصف الجلسة. تبديل النماذج يبدأ دائما ذاكرة مؤقتة جديدة، ولدى بعض المزودين يفعل ذلك تغيير إعدادات معينة في الطلب أيضا.
- الفترات الطويلة. إذا مر بين الاستدعاءات وقت أطول من عمر الذاكرة المؤقتة، دفع الاستدعاء التالي ثمن كتابة الذاكرة المؤقتة من جديد.
والقاعدة العامة: ضع المحتوى الثابت أولا والمحتوى المتغير أخيرا، وتعامل مع المحادثة على أنها لا تقبل إلا الإضافة.
كيف تعرف هل يعمل التخزين المؤقت
يبلغ المزودون عن الرموز المخزنة مؤقتا في بيانات الاستخدام لكل رد، عادة بعددين منفصلين للرموز المقروءة من الذاكرة المؤقتة والرموز المكتوبة فيها. وثلاثة فحوص تستحق الإجراء:
- يجب أن تكون القراءات من الذاكرة المؤقتة معظم الإدخال في كل استدعاء بعد الأول في الجلسة الطويلة. فإذا بقيت القراءات صفرا، فهناك شيء يتغير مبكرا في الموجه.
- يجب أن تكون الكتابات صغيرة وثابتة، بحجم ما تضيفه كل دورة تقريبا. والكتابات الكبيرة في كل استدعاء تعني أن الذاكرة المؤقتة يعاد بناؤها.
- يجب أن تنخفض التكلفة لكل جلسة بعد إدخال التخزين المؤقت أو إصلاح ما يبطله. فإن لم تنخفض، فالذاكرة المؤقتة لا تصاب.
قارن تكلفة النوع نفسه من الجلسات قبل التغيير وبعده، لا الطلبات المفردة.
التخزين المؤقت إلى جانب ضوابط التكلفة الأخرى
يقلل التخزين المؤقت تكلفة الإدخال المتكرر. لكنه لا يحد من مدة عمل الجلسة، ولا من عدد الجلسات التي يبدؤها الناس، ولا من النموذج الذي يختارونه. ويعمل أفضل مع الضوابط الأخرى: مهام أقصر ومحددة جيدا، والنموذج المناسب لكل خطوة، وحد صارم للإنفاق. راجع كيف تضع ميزانية للبرمجة بالذكاء الاصطناعي لآخرها.
كيف يفعل AI CodeOps ذلك
جلسات AI CodeOps التي تعمل على نماذج Claude تستخدم التخزين المؤقت للموجهات. يخزن موجه النظام إدخالا مستقلا، وتخزن علامة في نهاية المحادثة كل شيء حتى أحدث كتلة فيها، وتتقدم مع كل دورة، فتعيد حلقة الأدوات لدى الوكيل إرسال تاريخها على شكل قراءات من الذاكرة المؤقتة. وتحتسب التكلفة المسجلة الكتابة في الذاكرة المؤقتة والقراءة منها بأسعارهما الخاصة، لا بسعر الإدخال الكامل.
ويمكنك أن تراه يعمل في صفحة Usage (الاستخدام): في Usage History، افتح عدد الإدخال أو الإخراج لاستدعاء نموذج لترى تفصيله إلى قراءات من الذاكرة المؤقتة وكتابات فيها ورموز استدلال، حيث يبلغ النموذج عنها. وتعرض صفحة كل جلسة تكلفتها لكل خطوة وكيل.
راجع الاستخدام والإنفاق لمعرفة أين تظهر هذه الأرقام، والنماذج والفئات لمعرفة النماذج التي تستخدمها الجلسات، وقدّر تكلفة جلسة باستخدام حاسبة تكلفة البرمجة بالذكاء الاصطناعي المجانية.
الأسئلة الشائعة
ما التخزين المؤقت للموجهات؟
ميزة لدى المزود تخزن الصورة المعالجة لبداية الموجه، ليتمكن طلب لاحق يبدأ بالنص نفسه تماما من إعادة استخدامها. ويفوتر الإدخال المعاد استخدامه بسعر أقل من الإدخال الجديد، ويعالج عادة بسرعة أكبر.
هل يغير التخزين المؤقت للموجهات إجابات النموذج؟
لا. يتلقى النموذج الإدخال نفسه في الحالتين. والتخزين المؤقت يغير ما يضطر المزود إلى إعادة حسابه وطريقة فوترته، لا ما يراه النموذج.
لماذا معدل إصابة الذاكرة المؤقتة لدي منخفض؟
عادة لأن بداية الموجه تتغير بين الطلبات، مثل طابع زمني في موجه النظام، أو أدوات مسرودة بترتيب مختلف، أو رسائل سابقة عدلت. وقد تدع الفترات الطويلة بين الاستدعاءات الذاكرة المؤقتة تنتهي صلاحيتها أيضا.
هل تكلف الكتابة في الذاكرة المؤقتة أكثر من الإدخال العادي؟
لدى بعض المزودين، نعم. تفرض Anthropic علاوة على الكتابة في الذاكرة المؤقتة وتمنح خصما كبيرا على القراءة منها، بينما تخزن OpenAI تلقائيا دون رسوم منفصلة للكتابة. راجع صفحة الأسعار لدى مزودك.