ما الذي يقف وراء الإجابة؟

عندما نقرأ إجابة ولّدها الذكاء الاصطناعي، ننظر غالبًا إلى الجمل أولًا. هل لها معنى؟ هل تجيب عن السؤال؟ هل يمكن استخدامها؟

وحين تصبح الإجابة أساسًا لقرار، تظهر أسئلة أخرى. ما المعلومات المستخدمة؟ أي نسخة منها كانت سارية؟ هل كان النظام مخوّلًا بالوصول إليها؟ هل وصل المصدر فعلًا إلى النموذج؟ وهل كان يدعم الإجابة؟

تنقلنا هذه الأسئلة من الإجابة الظاهرة إلى الظروف التي أُنتجت فيها.

تبحث الورقة البيضاء لـNage AI OS وSEDIM التي نشرتها في كيفية إظهار هذه الظروف وإتاحتها للمراجعة. وسؤالها المركزي هو: ما الذي تستطيع مؤسسة إثباته بشأن إجابة مولّدة بالذكاء الاصطناعي، وعلى أي أدلة تستند؟

تتبّع مسار المصدر

تفصل مراحل عدة بين وجود وثيقة في النظام واستخدامها في إجابة محددة.

قد تكون الوثيقة قد قُبلت واختيرت للطلب، لكنها قد تقع خارج حد الطول عند إعداد السياق. ربما يعثر النظام على المصدر الصحيح من دون أن تصل المعلومات المعنية إلى النموذج.

ولا تنتهي المراجعة حين تصل المعلومات. فوجود جملة في مدخلات النموذج لا يثبت أن الإجابة أُنتجت بناءً عليها. قد تكرر الإجابة معلومات أخرى، أو تسيء تفسير المصدر، أو تتعارض معه.

لذلك تتناول الدراسة اختيار المصدر، ووجوده في المدخلات النهائية، ودعمه للادعاء، وتأثيره السببي في الإجابة بوصفها مسائل منفصلة. كل منها يجيب عن سؤال مختلف، ويتطلب ملاحظة أو تجربة مختلفة.

لهذا التمييز أثر عملي. فعندما نرى المرحلة التي ظهرت فيها المشكلة، نستطيع مناقشة ما ينبغي إصلاحه بوضوح أكبر.

للمعرفة دورة حياة

تتغير المعرفة المؤسسية باستمرار. تُراجع إرشادات، وتفقد وثيقة صلاحيتها، ويُسحب إذن استخدام مصدر.

في هذه البيئة، لا يكفي الوصول إلى المعرفة. ينبغي أيضًا إدارة هويتها ونسختها ونطاق الوصول إليها وحالة استخدامها.

يتناول SEDIM هذه الإدارة بوصفه بنية النماذج والمعرفة والأدلة داخل Nage AI OS. ويوفر Nage AI OS إطارًا للنظر في تنفيذ النماذج مع هذه الضوابط والملاحظات وسجلات الطلبات القابلة للمراجعة.

ومن الأسئلة المهمة سحب المعرفة من الاستخدام. إذا لم يعد ينبغي استخدام معلومات، فلا بد من توضيح معنى ذلك داخل النظام. إخراجها من الاستخدام الفعّال، وحذف النسخ المخزنة، وإزالة معلومات قد تكون موجودة في معاملات نموذج مدرّب مسبقًا، عمليات مختلفة. إتمام إحداها لا يثبت إتمام البقية.

وراء عبارتي «حُدّث» و«حُذف» قرارات تقنية ينبغي تحديد نطاقها.

ماذا يمكن أن يُظهر السجل؟

تتطلب مراجعة إجابة لاحقًا معرفة ظروف تلك اللحظة. ما النموذج ونسخة المصدر وسياسة الوصول المستخدمة؟ ما الملاحظات التي جُمعت؟ وماذا سُلّم إلى المستخدم؟

يمكن لسجل موقّع أن يساعد في التحقق من سلامة محتواه المُفصح عنه وتوقيعه. لكنه لا يثبت وحده صحة الإجابة أو اكتمال تسجيل جميع أحداث النظام.

هذه الحدود مهمة. نحافظ على قيمة أدوات المراجعة حين نوضح ما تستطيع التحقق منه.

ونحتاج إلى الوضوح نفسه عندما يتعذر القياس. استبدال قيمة غير متاحة بالصفر لا يزيل عدم اليقين، بل يخفيه. أحيانًا يكون أهم مخرج هو تسجيل سبب تعذر إنتاج قيمة ما.

ينبغي أن يكون العمل نفسه قابلًا للمراجعة

تعرض الورقة البيضاء نتائج هندسية مقاسة إلى جانب أهداف التصميم وقدرات تنتظر اختبارات القبول. والتمييز بين حالاتها امتداد للسؤال المركزي للنص.

لا يمكن تعميم نتيجة لوحظت في ظروف محددة على جميع الاستخدامات. والتحقق المحلي لا يثبت تلقائيًا استمرار السلوك نفسه في بيئة الإنتاج. قد تبقى أعمال بين وصف البنية واستيفاء جميع شروط قبولها.

لذلك نشرت الوثيقة مع ملحق للأدلة التقنية يتيح قراءة النتائج مع مناهجها وحدودها. ويُتناول بحث النماذج الأصلية CRATON بوصفه مسارًا بحثيًا منفصلًا له متطلبات تقييم خاصة.

يعتمد تقدم العمل على الحفاظ على هذه الفروق.

حين نقرر استخدام إجابة، قد نحتاج إلى أدلة إضافية، أو مصدر حديث، أو مراجعة بشرية. يعمل Nage AI OS وSEDIM على جعل موضع ظهور هذه الحاجة أكثر وضوحًا.

أن يبقى إلى جانب الإجابة أثر يتيح لنا مساءلتها من جديد.

الورقة البيضاء وملحق الأدلة التقنية