الثقة
هل يمكنك الوثوق ببحث AI في موقعك؟
ما الذي يجعل بحث AI قابلاً للتحقق: مجموعة مصادر محدودة، واسترجاع قبل التوليد، واستشهادات، ورفض صريح، واختبارات على محتوى موقعك.
3 دقائق للقراءة
قد تكون إجابة AI الطليقة والواثقة خاطئة. وفي موقع عام قد تتحول إلى إرشاد منتج غير صحيح، أو شرح مضلل لسياسة، أو عبارة علمية لا يدعمها أي مصدر.
لذلك ليس السؤال «هل يستطيع AI كتابة جواب مقنع؟» بل «هل يعرض النظام الأدلة، ويلتزم بحدودها، ويتوقف عندما لا تكفي؟» يحاول البحث المؤسس على المصادر بناء التجربة حول هذه المتطلبات.
ما معنى grounding؟
تسترجع المنظومة أولاً مقاطع من مجموعة محددة — مثل صفحات ووثائق موقع واحد — ثم تطلب من النموذج الإجابة من تلك المادة بدلاً من معرفته العامة. ويسمى هذا النمط غالباً retrieval-augmented generation أو RAG.
يضيّق grounding المهمة، لكنه لا يصنع يقيناً رياضياً. قد يختار الاسترجاع مقطعاً خاطئاً، أو يكون المصدر قديماً، أو يوسع النموذج الملخص أكثر مما يسمح به النص. يقلل التصميم الجيد هذه المخاطر ويجعلها قابلة للرصد، لكنه لا يعد بأن تكون كل جملة مستقبلية مثالية.
ماذا تقدم الاستشهادات، وماذا لا تقدم؟
يوفر الاستشهاد قابلية التتبع: يستطيع الزائر فتح المصدر وقراءة السياق وتقييم الملخص. ويساعد مالك الموقع على تشخيص المشكلة؛ فإحالة إلى صفحة تنقل بدلاً من السياسة مشكلة استرجاع، بينما المصدر الصحيح مع استنتاج غير مدعوم مشكلة توليد.
لكن رابطاً مناسباً واحداً لا يثبت كل عبارة. الاختبار المسؤول يسأل: هل تتبع كل دعوى مهمة من الدليل المذكور؟ وفي المحتوى عالي المخاطر يبقى المصدر هو المرجع؛ إجابة AI وسيلة للفهم والوصول، وليست بديلاً عن المراجعة المهنية.
أربعة ضوابط أهم من واجهة الدردشة
- مجموعة مصادر محدودة. يجب أن يعرف النظام الموقع والوثائق المسموح بها. خلط معرفة عامة غير مرتبطة يجعل أصل الإجابة أصعب تفسيراً.
- الاسترجاع قبل التوليد. ينبغي أن يتلقى النموذج مقاطع ذات صلة. وإذا لم يُسترجع شيء مفيد فلا يُدفع إلى الارتجال.
- بوابة grounding. لا تعد الإجابة مدعومة إلا عند وجود دليل صالح. في المسار الحالي لـ Achla AI لا تُعامل إجابة Vertex بلا استشهادات كنجاح مؤسس على المصادر. وقد تحاول مراحل fallback محدودة تركيب إجابة من المقاطع، لكنها يجب أن تستطيع قول «لا يمكن الإجابة».
- الامتناع الصريح. عبارة «لم أجد ذلك في الموقع» ميزة، لأنها تميز محرك إجابات الموقع عن روبوت عام يريد مواصلة الحديث.
قد يكون المصدر خاطئاً أيضاً
يمكن أن تنتقل سياسة قديمة أو صفحات متعارضة أو فهرس غير محدث إلى الإجابة. لذلك يحتاج مالك الموقع إلى حوكمة المحتوى:
- حذف المواد القديمة أو تمييزها بوضوح؛
- إظهار تواريخ التحديث للوثائق الحساسة؛
- استخدام الروابط الأساسية باستمرار؛
- مراقبة البحث الفاشل ومنخفض الثقة؛
- إعادة الفهرسة بعد التغييرات المهمة؛
- إعادة اختبار الأسئلة الحرجة.
لا يمكن لجودة البحث أن تتجاوز جودة المصدر إلى ما لا نهاية.
اختبار عملي للثقة
أنشئ مجموعة تجريبية من أربع فئات: إجابة واحدة واضحة، وإجابة موزعة بين عدة مقاطع، ومادة ملتبسة أو متعارضة، وسؤال غير موجود في الموقع.
راجع لكل نتيجة:
- هل استُرجع أفضل مصدر؟
- هل كل الاستنتاجات المهمة مدعومة؟
- هل تفتح الاستشهادات الصفحات الصحيحة؟
- هل وُصف عدم اليقين بصدق؟
- هل رُفضت الحالة غير المدعومة؟
أشرك مراجعاً متخصصاً للمحتوى العلمي أو الطبي أو القانوني أو التنظيمي. واحتفظ بمجموعة الاختبار لتكرارها بعد تغيير النموذج أو الـprompt أو الفهرس.
كيف صُمم Achla AI؟
يفهرس Achla AI المحتوى المعتمد لموقع واحد ويجيب منه. يطلب المسار الاستشهادات، ولا يعد إجابة Vertex الخالية منها نجاحاً grounded، ويمكنه استخدام تركيب مقيد من المقاطع المسترجعة وإزالة مصادر التنقل أو المصادر الخارجة عن الموضوع.
تقلل هذه الضوابط الإجابات غير المدعومة، لكنها ليست وعداً بانعدام hallucinations. يجب تقييم المنتج وفق أمانة الإجابة، وفائدة الاستشهادات، وسلوك الرفض على محتوى العميل نفسه.
متى تناسب الإجابة الموثقة؟
تفيد في الوثائق التقنية ومستودعات البحث والمعايير والمكتبات التنظيمية ومراكز المساعدة والتعليم والكتالوجات المعقدة. لكنها لا تستبدل نصيحة الطوارئ أو الحكم المهني أو التفسير القانوني والعلمي النهائي.
يجب أن تكون الثقة قابلة للاختبار: ما المحتوى المسموح؟ ما المصادر التي دعمت الجواب؟ ماذا يحدث عند غياب المصدر؟ ما سرعة تصحيح المحتوى القديم؟ وهل يمكن تكرار الاختبار نفسه بعد التغيير؟
جرّب Achla AI بسؤال مدعوم وآخر بلا مصدر، وافتح كل استشهاد. الهدف هو فحص اتصال الإجابة بالأدلة، لا الانبهار بطلاقة النص.
لن يتم تحميل مشغّل YouTube حتى تضغط زر التشغيل.
المشاهدة على YouTube (فيديو: هل يمكنك الوثوق ببحث AI في موقعك؟)
