كيفية إبقاء الهلوسة خارج مسار المستندات: التأريض، والاستشهادات، وعتبات الثقة

عندما يذكر مستند AI بثقة شيئًا غير موجود في المصدر، فهذا يعد هلوسة، وفي مسار المستند يكون وضع الفشل هو الأكثر أهمية. الإصلاح ليس موجهًا أفضل. إنها هيكلية. أبقِ النموذج مستندًا إلى النص المصدر الذي تم استرداده، وأجبره على الإشارة إلى مصدر كل إجابة، وأرفق إشارة ثقة بكل حقل مستخرج، وقم بتوجيه أي شيء أقل من الحد الخاص بك إلى شخص ما. تعمل عناصر التحكم الأربعة هذه مجتمعة على تحويل النموذج الذي يمكنه اختراع الإجابات إلى نظام يقوم إما بالإبلاغ عما تقوله الوثيقة أو يعترف بأنه لا يعرفه. لا أحد منهم غريب. إنها الفرق بين العرض التوضيحي الذي يُقرأ جيدًا والخط الذي يمكنك وضعه أمام المدقق.

ما الذي يسبب الهلوسة في مستند AI؟

يتنبأ نموذج اللغة بالنص المعقول. إذا تركت للإجابة من الذاكرة، فسوف تملأ الفجوات بشيء يبدو صحيحًا بدلاً من شيء موجود في وثيقتك. يظهر هذا في المسار في أماكن يمكن التنبؤ بها: إجمالي النموذج الذي تم استنتاجه بدلاً من قراءته، وتاريخ يطابق فاتورة خاطئة، واسم مورد قريب ولكنه خاطئ، وحقل تم الإبلاغ عنه على أنه موجود عندما كانت الصفحة فارغة. النموذج لا يكذب. ولم يظهر القيد قط على أن إجابته يجب أن تأتي من المصدر الذي أمامه. توجد معظم تقنيات الإنتاج لفرض هذا القيد بالضبط.

كيف يقلل التأريض الاسترجاعي من الهلوسة؟

التأريض يعني أن النموذج يجيب فقط من النص الذي قدمته له بالفعل، وليس من تدريبه. بدلاً من سؤال النموذج عن المبلغ الإجمالي الموجود في الفاتورة، يمكنك استرداد المقاطع ذات الصلة من المستند الذي تم تحليله وتطلب منه الإجابة باستخدام تلك المقاطع فقط. إذا لم تكن الإجابة في النص المقدم، فإن الإخراج الصحيح هو "لم يتم العثور عليه"، وليس تخمينًا.

من الناحية العملية، يعني هذا أن بعض الأشياء تعمل معًا:

1. التحليل قبل المطالبة. استخرج المستند إلى نص منظم ونظيف مع الاحتفاظ بالتخطيط، بحيث يقرأ النموذج المحتوى الحقيقي بدلاً من الصورة الباهتة.
2. قم باسترداد النطاق ذي الصلة. بالنسبة للمستند الطويل، اسحب القسم الذي يجب أن يحتوي على الحقل وقم بتمريره، بدلاً من رمي الملف بأكمله والأمل.
3. قيد التعليمات. أخبر النموذج بوضوح أنه يجب عليه الإجابة فقط من النص المقدم وإرجاع قيمة فارغة صريحة عندما يكون الحقل غائبًا.
4. تثبيت على المخطط. اطلب إخراجًا منظمًا باستخدام الحقول المسماة، لذلك لا يوجد مكان لإضافة تعليق أو ابتكار إضافات.

التأريض وحده يزيل نسبة كبيرة من الإجابات المخترعة. لا يزال من الممكن أن يخطئ النموذج في القراءة، وهذا هو سبب وجود عنصري التحكم التاليين. نحن نعتمد على هذا النهج بشكل كبير عند إنشاء Pileform، أداة مسك الدفاتر AI، لأن الرقم المفبرك في حسابات شخص ما ليس خطأ تجميليًا.

لماذا يجب أن تحتوي كل إجابة على اقتباس؟

يربط الاقتباس كل قيمة مستخرجة بالمكان المحدد الذي جاءت منه في المصدر: صفحة، أو سطر، أو مربع محيط، أو امتداد حرف. هذا يؤدي وظيفتين في وقت واحد.

أولاً، يجعل الإجابة قابلة للتحقق. يمكن للمراجع، أو القاعدة التلقائية، الانتقال مباشرة إلى النقطة الموجودة في الصفحة وتأكيد القيمة في ثوانٍ بدلاً من قراءة المستند بأكمله. ثانيًا، يزيد من تكلفة الهلوسة بالنسبة للنموذج نفسه. عندما يتطلب تنسيق الإخراج موقعًا لكل حقل، فإن الإجابة بدون نطاق دعم تعتبر عيبًا مرئيًا يمكنك اكتشافه ورفضه تلقائيًا. يتم التعامل مع القيمة التي لا يمكنها الإشارة إلى مكان وجودها في المستند على أنها غير موجودة.

القاعدة العملية بسيطة. إذا لم يكن للحقل أي اقتباس، فلن يتم كتابته في السجل. يلتقط هذا القيد الفردي فئة من الإجابات الواثقة ولكن غير المدعومة قبل أن تصل إلى كتبك.

كيف تعمل حدود الثقة والمراجعة البشرية معًا؟

تحدد حدود الثقة الإجابات التي يثق بها النظام من تلقاء نفسه والتي يقوم بتصعيدها. كل حقل مستخرج يحمل درجة. قمت بتعيين قطع. وفوقه، تتدفق القيمة مباشرة من خلاله. أسفلها، يتم الاحتفاظ بالقيمة وإرسالها إلى شخص ما، مع المستند الأصلي والإجابة المقترحة جنبًا إلى جنب. هذه هي خطوة الإنسان في الحلقة، وهي ما يجعل خط الأنابيب بأكمله آمنًا للتشغيل الآلي.

الثقة	ماذا يفعل النظام	من يتصرف
عالية	قبول ونشر القيمة تلقائيا	لا أحد
الحد	ضع إشارة للتأكيد السريع	ينظر المراجع أو يوافق أو يصحح
اقتباس منخفض أو معدوم	إحتفظ بالسجل لا تنشر	يقرأ المراجع المصدر ويقرر

النقطة ليست في إزالة الناس. إنه يصرف انتباههم فقط حيث يغير النتيجة. خط الأنابيب الجيد واثق من الأغلبية الواضحة للحقول وصادق بشأن الباقي. المسح الملطخ، والتخطيط غير المألوف، والشكل الذي لا يتوافق، هذه هي بالضبط الأماكن التي تكتسب فيها العين البشرية مكانتها، ومن الواضح أن ظهورها يتفوق على التظاهر بأن النموذج دائمًا على حق. بمرور الوقت، تصبح التصحيحات التي يجريها الأشخاص حالات اختبار، وبالتالي تصبح العتبات أكثر وضوحًا بدلاً من الانحراف. هذا هو نفس نموذج التشغيل وراء العمل الجاد في Document AI، ويتم تغطية السياق الأوسع في دليلنا إلى Document AI للمؤسسات.

##الوجبات العملية

تعامل مع الهلوسة كخاصية نظامية، وليست مطالبة يمكنك إتقانها. قم بتأريض النموذج في النص المصدر الذي تم استرداده، واطلب اقتباسًا لكل حقل، وسجل الثقة في كل قيمة، وقم بتوجيه القيم منخفضة الثقة إلى شخص ما. إذا لم تتمكن القيمة من تحديد مصدرها، فلن تتم كتابتها. قم ببناء خط الأنابيب بحيث تكون إجابته الصادقة هي "لست متأكدًا، تحقق من هذا"، وستحصل على مساعد يكتسب الثقة بدلاً من مساعد يجب عليك تخمينه.