ورقة عمل تعليمية · 31 أكتوبر 2026
تقييم مخاطر الذكاء الاصطناعي
التقييم الجيد يشرح كيف قد يحدث الضرر، ومن قد يتأثر، وما الضابط الذي سيقلله. لا توجد درجة موحدة تصلح لكل الاستخدامات؛ اعتمد المنهج والمعايير مع الجهة المختصة في مؤسستك.
المصفوفة التالية تعليمية فقط. ليست أداة معتمدة، ولا تقديراً رسمياً لاحتمال أو أثر، ولا نتيجة تقييم لمنتج BRIGHTAI.
ابدأ بوصف الحالة
- الغرض:
- ما المهمة المحددة التي يدعمها النظام؟
- النطاق:
- من يستخدمه؟ ومن يتأثر بالمخرجات؟
- البيانات:
- ما أنواعها ومصدرها ومن يملك صلاحية استخدامها؟
- القرار:
- هل المخرج اقتراح أم يؤثر مباشرة في حق أو خدمة؟
سجل الخطر والضابط
الخطر المحتمل — ما الذي قد يحدث؟
السبب والسياق — ما الظروف التي قد تؤدي إليه؟
الأثر المحتمل — على من، وبأي صورة؟
الضابط المقترح — كيف يمنع الضرر أو يحده؟
المالك والدليل — من ينفذ؟ وما السجل الذي يثبت التنفيذ؟
المراجعة — متى يعاد التقييم، ومن يملك الإيقاف؟
أمثلة على أسئلة المراجعة
| المجال | سؤال يستحق التحقق |
|---|---|
| الخصوصية | هل تجمع الحالة بيانات أكثر من الحاجة؟ وأين تعالج وفق العقد والإعداد؟ |
| الجودة | كيف تكتشف إجابة غير دقيقة قبل الاعتماد عليها؟ |
| الإنصاف | هل تختلف النتائج على نحو مؤثر بين مجموعات قد تتأثر؟ |
| الأمن | هل يمكن لمدخل غير موثوق التأثير في التعليمات أو الأدوات؟ |
| المساءلة | من يراجع النتيجة ومن يوقف الاستخدام عند ظهور ضرر؟ |
مصدر مرجعي
الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي — وكالة الأنباء السعودية
مخاطر الذكاء الاصطناعي: حوّل الوصف إلى قرار
قد يظهر الخطر في إجابة غير دقيقة أو تسريب بيانات أو استخدام أداة بصلاحيات أوسع من المهمة. سجّل كيف يصل الخطأ إلى ضرر فعلي؛ فعبارة «النموذج يهلوس» وحدها لا توضح من يتأثر أو أين تتدخل المراجعة.
مثال افتراضي: مساعد يقترح رداً على شكوى عميل. الخطر: اعتماد الرد دون تحقق فيتضمن التزاماً غير مصرح. الضابط المقترح: مراجعة بشرية قبل الإرسال. الدليل: نسخة معتمدة ومرجع صلاحية المراجع، مع تقليل البيانات المحفوظة.
قبل الضابط وبعده
| مرحلة المراجعة | ما الذي توثقه؟ |
|---|---|
| قبل المعالجة | السياق والضرر المحتمل والاحتمال والأثر وفق منهج الجهة. |
| بعد المعالجة | كيف اختُبر الضابط؟ ما الحالات التي لا يغطيها؟ ومن يقبل الخطر المتبقي؟ |
| عند التغيير | هل تغير النموذج أو البيانات أو الأدوات أو الغرض بما يستوجب مراجعة جديدة؟ |
يقدم إطار NIST لإدارة مخاطر AI مرجعاً لتنظيم العمل، ولا يحول استخدامه إلى شهادة. اقرأ نطاق Risk Engine المخطط والمراجعة البشرية المستهدفة.
محتوى تعليمي من مؤسسة مُشرقة BRIGHT AI. تاريخ إضافة الأقسام الجديدة: . المواد توعوية؛ اعتماد المراجعة التخصصية قبل النشر النهائي ما زال مطلوباً.