عن المؤسس22 سبتمبر 20264 دقائق قراءة

نافذة السياق: عبدالله عبدالرحيم سنكر يشرح ليش ينسى النموذج أول المحادثة

عبدالله عبدالرحيم سنكر يشرح نافذة السياق Context Window: وش يدخل فيها، وليش ينسى النموذج تعليماتك الأولى في المحادثات الطويلة، وكيف تصمّم نظامك عشان ما يضيع منه شي.

عبدالله عبدالرحيم سنكر — نافذة السياق
AZHAL

نافذة السياق

عبدالله عبدالرحيم سنكر

تبدأ محادثة مع مساعد ذكي وتقول له في أول رسالة: «ردودك كلها بالعربي، ولا تذكر أسعار». بعد ساعة من الشغل يرد عليك بالإنجليزي ويحط سعر من عنده. تحس إنه «عاند»، والحقيقة إنه ما شاف تعليمتك أصلاً، أو شافها وسط كومة كلام ما عاد يعطيها وزن. عبدالله عبدالرحيم سنكر يشرح هنا وش اللي صار بالضبط، لأن فهم نافذة السياق يغيّر طريقة بنائك لأي نظام فيه ذكاء اصطناعي، من بوت خدمة عملاء إلى مساعد داخلي للموظفين.

النموذج ما عنده ذاكرة، عنده ورقة

أول حقيقة لازم تستوعبها: نموذج اللغة ما يتذكر محادثتك بين رسالة ورسالة. كل مرة ترسل له شي، التطبيق يعيد إرسال المحادثة كاملة من أولها: التعليمات، ورسائلك، وردوده السابقة، ثم رسالتك الجديدة. النموذج يقرأ هالحزمة كلها كأنها أول مرة، ويكتب الرد.

نافذة السياق هي الحد الأقصى لحجم هالحزمة. تخيّلها ورقة بمساحة ثابتة: كل اللي يبي النموذج يشوفه لازم ينكتب عليها. والمساحة تنقاس بالتوكنز، مو بالكلمات ولا بالرسائل. التوكن قطعة نص، أحياناً كلمة كاملة وأحياناً جزء من كلمة.

وش اللي ياكل من المساحة؟

كثير يحسب إن النافذة كلها لرسائله، وهي في الواقع مقسومة بين أشياء ما تشوفها:

  • تعليمات النظام: النص اللي يحدد شخصية المساعد وقواعده. في الأنظمة الجادة ممكن يكون صفحات.
  • تعريفات الأدوات: لو المساعد يقدر يبحث أو يستعلم من قاعدة بيانات، وصف كل أداة ينحسب من النافذة في كل طلب.
  • نتائج الأدوات: صفحة ويب كاملة أو ملف PDF رجع من بحث، وهذي أكبر آكل للمساحة في العادة.
  • تاريخ المحادثة: كل رسالة منك وكل رد منه، ويتراكم مع كل دور.
  • الرد نفسه: المساحة اللي يحتاجها النموذج عشان يكتب جوابه لازم تكون باقية.

خذ مثالاً واقعياً: مساعد لمتجر، تعليماته صفحتين، وعنده أربع أدوات، والعميل طلب منه يقارن بين ثلاثة منتجات فاستدعى أداة البحث ثلاث مرات ورجعت كل مرة بوصف طويل. قبل ما يكتب العميل رسالته الخامسة، يكون جزء كبير من الورقة راح لأشياء العميل ما كتبها ولا شافها. لهذا تحس إن المحادثة «قصيرة» والنموذج يتصرف كأنها طويلة جداً.

ليش «ينسى» بالضبط؟ ثلاثة أسباب مختلفة

السبب الأول قص صريح. لما تمتلئ الورقة، التطبيق لازم يتصرف، وأبسط تصرف هو حذف أقدم الرسائل. وأقدم رسالة غالباً هي اللي فيها تعليماتك المهمة. بعض التطبيقات تحمي تعليمات النظام من الحذف، وبعضها لا، وأنت كمستخدم ما تدري.

السبب الثاني التلخيص. تطبيقات كثيرة بدل الحذف تلخّص الجزء القديم من المحادثة وتحط الملخص مكانه. فكرة ذكية، بس الملخص يختصر، والتفصيلة الصغيرة اللي تهمك، مثل «لا تذكر أسعار»، ممكن تطيح في الاختصار.

السبب الثالث أخفى: الكلام موجود بس انتباه النموذج له ضعيف. حتى لو المحادثة كلها داخل النافذة، النموذج ما يعطي كل سطر نفس الوزن. أبحاث معروفة لاحظت إن النماذج تتعامل أحسن مع المعلومة اللي في بداية السياق ونهايته، وتضعف مع اللي مدفونة في الوسط. ومع ساعة من الشغل، تعليمتك الأولى صارت «وسط» محاطة بآلاف الأسطر.

النافذة الكبيرة ما تحل المشكلة لحالها

النماذج الحديثة صارت تجي بنوافذ ضخمة، وهذا يغري الناس يرمون كل شي داخلها: الكتالوج كامل، كل سياسات الشركة، كل المحادثات السابقة. والنتيجة غالباً عكسية لثلاثة أسباب. كل توكن داخل النافذة تدفع ثمنه في كل طلب، والطلب الثقيل أبطأ في أول كلمة من الرد، وكثرة الكلام غير المتعلق بالسؤال تشتت النموذج وتخليه يخلط بين المعلومات.

القاعدة اللي يمشي عليها عبدالله عبدالرحيم بن سنكر الكندي في الأنظمة اللي يبنيها: النافذة الكبيرة سقف أمان، مو هدف. اللي يدخل السياق هو اللي يحتاجه هالسؤال بالذات، مو كل اللي ممكن يحتاجه أي سؤال.

كيف تصمّم نظاماً ما ينسى؟

  • القواعد الثابتة مكانها تعليمات النظام، مو أول رسالة في المحادثة. تعليمات النظام تنرسل مع كل طلب وفي مكان مميز.
  • كرّر القيد المهم قريب من آخر السياق إذا كانت المحادثة طويلة، مثل تذكير قصير يلحق برسالة المستخدم داخلياً.
  • اقطع نتائج الأدوات: بدل ما ترجّع صفحة ويب كاملة، رجّع الفقرات المتعلقة فقط، أو ملخص منظّم.
  • خلّ الحالة المهمة خارج المحادثة: اسم العميل، رقم الطلب، تفضيلاته، تنحفظ في قاعدة بيانات وتنحقن في السياق كسطر واضح، بدل ما تعتمد إن النموذج يلقاها في رسالة قديمة.
  • ابدأ جلسة جديدة لما يتغير الموضوع. المحادثة اللي فيها ثلاث مهام مختلفة أضعف من ثلاث محادثات قصيرة.
  • قِس بدل ما تخمّن: أغلب مزودي النماذج يرجعون عدد التوكنز المستخدمة مع كل رد، سجّلها وشوف متى تقترب من الحد.

جرّب النسيان بنفسك في خمس دقائق

إذا عندك بوت شغّال، جرّب هالتجربة: افتح محادثة، واعطه قيداً واضحاً في البداية، ثم اشغله بعشرين سؤال متنوع، وبعدها اسأله سؤالاً يختبر القيد. إذا كسره، فعندك واحد من الأسباب الثلاثة فوق. افحص وش يسوي التطبيق لما تطول المحادثة: يقص؟ يلخّص؟ أو يرسل كل شي؟ الجواب يحدد العلاج. لو يقص، احمِ التعليمات. لو يلخّص، اكتب القيود المهمة في مكان ما يدخل التلخيص. ولو يرسل كل شي وما زال يكسر القيد، فالمشكلة انتباه، وعلاجها التذكير القريب من آخر السياق.

في منصة أزهل الرقمية هالاختبار جزء ثابت من تسليم أي مساعد ذكي، لأن المساعد اللي يلتزم في أول خمس رسائل ويخرب في العشرين ما ينفع للاستخدام الحقيقي. والفكرة الأساسية اللي تطلع فيها من هالمقالة بسيطة: النموذج ما ينسى لأنه ضعيف، ينسى لأن الورقة امتلأت أو لأن المهم ضاع وسط غير المهم. ورتّب الورقة صح، يلتزم.

عندك فكرة؟ الاستشارة الأولى علينا

كلّم عبدالله مباشرة على واتساب — رسالتك توصل له هو، مو لرد آلي. نسمع فكرتك ونقول لك وش تحتاج وكم تكلّف، ببلاش.

مقالات ذات صلة

كل المقالات
عبدالله سنكر — النسخة الأولى من التطبيق
AZHAL

النسخة الأولى من التطبيق

عبدالله سنكر

21 سبتمبر 20264 دقائق قراءة

عبدالله سنكر: كيف تحوّل فكرة تطبيق إلى MVP بأقل تكلفة؟

خطوات عملية يشرحها عبدالله سنكر لتحويل فكرة تطبيق إلى نسخة أولى قابلة للتجربة: من جملة المشكلة إلى اختبار الطلب وقصّ الميزات واختيار التقنية والإطلاق لعدد صغير.

اقرأ المقال
عبدالله عبدالرحيم بن سنكر — إعلانات سناب شات للمبتدئين
AZHAL

إعلانات سناب شات للمبتدئين

عبدالله عبدالرحيم بن سنكر

21 سبتمبر 20264 دقائق قراءة

إعلانات سناب شات للمبتدئين في السعودية مع عبدالله عبدالرحيم بن سنكر

عبدالله عبدالرحيم بن سنكر يشرح إعداد إعلانات سناب شات من الصفر لصاحب مشروع سعودي: الحساب التجاري، والدفع، والملف العام، والبكسل، وأول إعلان يعدّي المراجعة بسلام.

اقرأ المقال
عبدالله سنكر — إدارة الحالة في فلاتر
AZHAL

إدارة الحالة في فلاتر

عبدالله سنكر

22 سبتمبر 20264 دقائق قراءة

عبدالله سنكر يقارن: Provider أو Riverpod أو Bloc لإدارة الحالة في Flutter؟

عبدالله سنكر يقارن Provider و Riverpod و Bloc لإدارة الحالة في Flutter: سهولة البداية، وكمية الكود، والاختبار، ومتى يناسب كل واحد حجم تطبيقك وفريقك.

اقرأ المقال