Section 11 · باب
السلامة والأمن والمواءمة
Safety, Security and Alignment
يعالج هذا الباب الجانب التقني للسلامة والأمن والمواءمة: كيف تُختبر الأنظمة وتُؤمَّن وتُفهَم وتُوجَّه نحو أهدافها المقصودة، وكيف تُرصد مخاطرها. ويختلف عن الباب 12 الذي يتناول الأبعاد المعيارية والمجتمعية، وعن الباب 14 الذي يعرض الأطر والتشريعات، وعن الباب 9 الذي يعنى بالقياس والتقييم.
رقم الباب11
الفروع8 فروع
المداخللا مداخل
§ 11.0
الفروع
Branches| الرمز | الفرع | النطاق | المداخل |
|---|---|---|---|
| 11.1 | الضمان والاختبار والتدقيق والاعتماد | يشمل منظومة الضمان التقني: الاختبار والتحقق والتحقق من الصحة والتدقيق والاعتماد بوصفها ممارسات تضمن موثوقية النظام في سياقه | 0 |
| 11.2 | الأمن السيبراني والهجمات العدائية على تعلم الآلة | يشمل أمن أنظمة الذكاء الاصطناعي ومواجهة الهجمات عليها: حقن التعليمات | 0 |
| 11.3 | السلامة الجسدية للروبوتات والمركبات والأجهزة الطبية | يشمل سلامة الأنظمة التي تعمل في العالم المادي وقد تُلحق ضررًا جسديًا: الروبوتات والمركبات الذاتية والأجهزة الطبية | 0 |
| 11.4 | قابلية التفسير والهندسة العكسية للنماذج | يشمل فهم ما يجري داخل النماذج: تفسير القرارات | 0 |
| 11.5 | التزييف العميق والتحقق من الأصالة والعلامات المائية | يشمل المحتوى المصنَّع آليًا المضلِّل وطرق كشفه وإثبات أصالة الوسائط | 0 |
| 11.6 | المواءمة التقنية والقيمية | يشمل مسألة جعل سلوك الأنظمة متوافقًا مع أهداف البشر وقيمهم: الإشراف القابل للتوسع | 0 |
| 11.7 | الحوادث والمخاطر النظامية | يشمل تصنيف إخفاقات الأنظمة وأضرارها ومخاطرها الواسعة على المجتمع والبنى الحيوية: منهجية التحليل وأنماط الإخفاق والسيناريوهات النظامية | 0 |
| 11.8 | الاستخدام المزدوج والاستخدامات الهجومية | يشمل القدرات التي تخدم الخير والشر معًا وإمكان توظيفها في الأذى المتعمد: المخاطر الكيميائية والحيوية والسيبرانية والتلاعب | 0 |