ركن من أركان الحوكمة
السلامة والموثوقية
صمّم الاستخدام بحيث يعرف الفريق حدود النظام، ومتى يحتاج إلى تحقق أو مراجعة أو إيقاف.
هذه مبادئ توجيهية لا تثبت تطبيقها بواسطة منتج. منتجات AIGAS مخططة والإتاحة التشغيلية غير متحققة. قيّم كل حالة وفق متطلبات الجهة المختصة.
حوّل المبدأ
إلى أسئلة عملية.
- ما الضرر المحتمل ومن قد يتأثر؟
- من يملك قرار إيقاف الاستخدام؟
- كيف تتحقق من المخرجات قبل الاعتماد؟
منتجات مرتبطة في التصور
الأسماء التالية توضح اتجاه الـBlueprint فقط، وليست قائمة خدمات متاحة.
اختبار صغير قبل توسيع الاستخدام
اختر مهمة محددة ببيانات اصطناعية، ثم دوّن النتيجة المقبولة والحالات التي تتطلب الإيقاف. جرّب إجابة ناقصة ومعلومة متناقضة ومدخلاً خارج النطاق؛ الهدف معرفة كيف يكتشف الفريق الفشل ومن يعالجه.
- حدّد الضرر المحتمل ومن قد يتأثر به.
- اختر ضابطاً ومالكاً ودليلاً على أثره في السيناريو المختبر.
- راجع الخطر المتبقي وحدود النتائج قبل أي تعميم.
نتيجة اختبار واحدة لا تثبت موثوقية كل الحالات. ابدأ بورقة عمل تقييم مخاطر الذكاء الاصطناعي.
كل ركن يكمل سؤالاً مختلفاً؛ الرسوم توضيحية ولا تثبت تطبيق ضوابط.
الركن التالي: الشفافية والمساءلة ←