المسؤولية البشرية أساس الرحلة
يمكن للذكاء الاصطناعي أن يساعد على البحث والاستخراج والربط والتحليل وإعداد توصية. أما اعتماد المتطلب أو تفسيره أو الموافقة على سياسة أو اتخاذ قرار وتنفيذ إجراء، فيبقى من اختصاص الإنسان المخوّل وفق سياسات الجهة وحدود التفويض.
لا تمنح توصية آلية صلاحية جديدة، ولا تثبت وحدها صحة تفسير تنظيمي أو نتيجة امتثال. تُحدد درجة المراجعة بحسب حساسية الحالة وأثرها ومستوى عدم اليقين.
مبادئ تصميم مخطط تطبيقها
الإنسان ضمن دورة العمل
إتاحة مراجعة المتطلبات والروابط والتوصيات وتصحيحها، مع تحويل الحالات الحساسة أو غير الواضحة إلى المختص المناسب.
الموافقة البشرية
فصل المخرج المقترح عن المخرج المعتمد، وتحديد صاحب صلاحية الاعتماد وشروطه قبل تنفيذ الإجراءات ذات الأثر المؤسسي.
قابلية التتبع
ربط المخرج بالوثائق المستخدمة وإصداراتها، وسياق المعالجة، وإصدار النموذج أو القواعد، والمراجعات والتعديلات اللاحقة.
إسناد المخرجات إلى المصادر
عرض المصدر والتاريخ والوثيقة والاقتباس وموضعه، والتحقق من أن المصدر يدعم الاستنتاج. وجود رابط أو اقتباس لا يكفي وحده لإثبات صحة التوصية.
قابلية التفسير
شرح الأدلة والافتراضات التي يستند إليها الربط أو الاقتراح، وإظهار الفجوات والبدائل وحدود ما يمكن تفسيره، دون تقديم شرح مولّد كدليل مستقل.
المساءلة
تعيين مالك لكل حالة استخدام، ومسؤول للمراجعة، وصاحب صلاحية للقرار، ومسؤول عن التنفيذ؛ مع مسار للاعتراض والتصحيح والتصعيد.
إدارة مخاطر الذكاء الاصطناعي
سجل لحالات الاستخدام والنماذج والموردين، وتقييم مخاطر الخصوصية والتحيز والأمن والدقة، واختبارات قبل التغيير ومراقبة أثناء التشغيل.
سجل تدقيق
توثيق المخرج والمصدر وحالة المراجعة والتعديلات والموافقة والإجراء والنتيجة، مع صلاحيات وحدود احتفاظ وحماية مناسبة للسجل.
حدود الذكاء الاصطناعي
قد تنتج النماذج معلومات غير صحيحة، أو تفسيرًا ناقصًا، أو روابط غير مناسبة، أو اقتباسات لا تدعم الاستنتاج. وتتأثر النتائج بجودة الوثائق وحداثتها وسياقها واللغة المستخدمة وإمكانية الوصول إلى مصادر كافية.
مؤشر الثقة المقترح ليس ضمانًا للصحة، ولا يُفسر كنسبة دقة مثبتة إلا بعد تعريف منهجه ومعايرته والتحقق منه. ولا تتحول التوصية إلى قرار معتمد بمجرد ارتفاع المؤشر.
قيم الثقة والحالات داخل الديمو توضيحية، ولا تمثل تقييمًا لنموذج تشغيلي أو أداءً مثبتًا على بيانات حقيقية.
التعامل مع المخرجات غير الموثوقة
إظهار عدم اليقين
وسم المخرج الذي يفتقد دليلًا كافيًا أو يحتوي على تعارض، وتحديد ما يحتاج إلى مراجعة إضافية.
إيقاف الاعتماد والتنفيذ
عدم تمرير المخرج إلى تنفيذ مؤثر قبل التحقق، وتحويله إلى المختص المخوّل مع المصدر والسياق.
التحقق والتصحيح
الرجوع إلى الوثيقة الأصلية والإصدار النافذ، ومراجعة الاقتباس والربط، وإضافة التصحيح أو رفض التوصية مع السبب.
التوثيق والتعلم
تسجيل الملاحظة وقرار المراجع والنتيجة، ثم تقييم ما إذا كان يلزم تعديل البيانات أو القواعد أو النموذج وإعادة الاختبار.
من النموذج التوضيحي إلى استخدام مسؤول
المرحلة التالية تستهدف حالة استخدام محدودة: وثيقة تنظيمية جديدة، واستخراج المتطلبات وربط السياسات وإظهار الأدلة وكشف الفجوات، ثم مراجعة بشرية وإجراء ونتيجة موثقة. لن تصبح خدمات الرؤية جميعها قدرات تشغيلية بمجرد إطلاق المنتج الأولي.
تحتاج أي تجربة فعلية إلى موافقات استخدام البيانات وضوابط الوصول والعزل والتدقيق وتقييم مخاطر الحالة، وإلى التحقق من جودة المخرجات قبل توسيع الاستخدام.
متطلبات الأمن والثقة