تصنيف مخاطر قانون الذكاء الاصطناعي – متى يُعتبر نظام الذكاء الاصطناعي عالي المخاطر؟
لا يتعلق تصنيف المخاطر بموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي بوضع تقييم عام "منخفض أو متوسط أو مرتفع" للمخاطر. إذ يتعين على الشركة أولاً تحديد نوع استخدام الذكاء الاصطناعي، ودور المؤسسة، وما إذا كانت هناك أحكام خاصة تنطبق على النظام.
نموذج فحص عملي
| السؤال | ما تقومون بالتحقق منه |
|---|---|
| هل الحل هو نظام ذكاء اصطناعي بموجب القانون؟ | حدد التقنية والوظيفة والغرض المقصود قبل المضي قدماً. |
| هل هناك استخدام محظور؟ | الفحص مقابل المادة 5. |
| هل يمكن أن يكون عالي المخاطر؟ | المادة 6 مع الملحق الأول أو الملحق الثالث. |
| هل تنطبق متطلبات الشفافية؟ | المادة 50، على سبيل المثال: أنظمة ذكاء اصطناعي تفاعلية معينة، المحتوى الاصطناعي، التزييف العميق، واستخدامات أخرى معينة. |
| ما هو دور المؤسسة؟ | مورد، مشغل/مستخدم، مستورد، موزع، أو أي دور آخر ذي صلة. |
| هل توجد تشريعات أخرى؟ | اللائحة العامة لحماية البيانات (GDPR)، قانون العمل، السرية، قانون المستهلك، التنظيم القطاعي، والمزيد. |
1. هل استخدام الذكاء الاصطناعي محظور؟
يجب أن يكون الفحص الأول هو ما إذا كان الاستخدام مشمولاً بحظر في المادة 5. المحظورات ليست هي نفسها "عالية المخاطر": الذكاء الاصطناعي المحظور لا يجوز استخدامه من حيث المبدأ بالطريقة التي يصفها الحظر. لذلك، يجب إجراء الفحص قبل أن تضيع المؤسسة وقتاً في تقييم مخاطر عادي.
قم بتوثيق حالة الاستخدام التي تم تقييمها، والوظائف التي يمتلكها النظام بالفعل، ولماذا تم اعتباره ضمن أو خارج نطاق الحظر. هذا مهم بشكل خاص عند استخدام الذكاء الاصطناعي في التنميط، أو الوظائف البيومترية، أو القرارات التي تؤثر على البشر.
2. هل النظام عالي المخاطر وفقاً للمادة 6؟
يحتوي قانون الذكاء الاصطناعي على مسارين رئيسيين لتصنيف المخاطر العالية. المسار الأول يتعلق بالذكاء الاصطناعي الذي يعد مكوناً أمنياً في منتجات معينة تخضع لتشريعات المنتجات المنسقة للاتحاد الأوروبي، أو يشكل هو نفسه تلك المنتجات، ويتطلب تقييماً من طرف ثالث. المسار الثاني يتعلق بحالات استخدام معينة في المجالات المحددة في الملحق الثالث.
يغطي الملحق الثالث مجالات استخدام حساسة بشكل خاص، بما في ذلك أجزاء من القياسات الحيوية (البيومترية)، والبنية التحتية الحيوية، والتعليم، والتوظيف، والوصول إلى بعض الخدمات الأساسية، وإنفاذ القانون، والهجرة، والقضاء. ومع ذلك، فإن حقيقة استخدام الشركة للذكاء الاصطناعي في الموارد البشرية، على سبيل المثال، لا تعني تلقائياً أن كل وظيفة ذكاء اصطناعي هي عالية المخاطر؛ إذ يجب تحليل الوظيفة الملموسة والغرض المقصود.
لا تزال توجيهات المفوضية الأوروبية الحالية بشأن المخاطر العالية مصنفة كمسودات. وهي بالتالي تعتبر توجيهات وأمثلة، وليست بديلاً عن نص اللائحة نفسه.
3. هل تنطبق متطلبات الشفافية في المادة 50؟
لا يحتاج النظام إلى أن يكون عالي المخاطر ليخضع لمتطلبات الشفافية. تسري المادة 50 منذ 2 أغسطس 2026 وتتضمن، من بين أمور أخرى، التزامات لأنظمة ذكاء اصطناعي معينة تتفاعل مباشرة مع البشر، وقواعد حول وضع العلامات أو المعلومات لأنواع معينة من المحتوى الذي يتم إنشاؤه أو التلاعب به بواسطة الذكاء الاصطناعي.
بالنسبة للمشغلين (deployers)، قد تصبح التزامات المعلومات الخاصة ذات صلة، من بين أمور أخرى، عند التعرف على المشاعر، والتصنيف البيومتري، والتزييف العميق، وبعض النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي حول قضايا المصلحة العامة. تختلف الاستثناءات والتفاصيل، لذا يجب التحقق من الاستخدام الملموس مقابل المادة 50 وتوجيهات المفوضية.
4. "ليس عالي المخاطر" لا يعني "بلا مخاطر"
خطأ شائع هو إنهاء التحليل عندما لا يندرج النظام تحت أحكام المخاطر العالية. إذ يمكن لأداة الذكاء الاصطناعي التوليدي أن تعالج بيانات شخصية، أو تحتوي على معلومات سرية، أو تنشئ مواد غير دقيقة، أو تؤثر على العملاء، أو تُستخدم في عمليات تتطلب رقابة بشرية.
لذلك، يجب على الشركة الفصل بين التصنيف القانوني بموجب قانون الذكاء الاصطناعي (AI Act) والمخاطر التشغيلية الداخلية. يمكن لمصفوفة المخاطر الداخلية تحديد أولويات الضوابط اللازمة حتى عندما لا يتم تصنيف النظام قانوناً على أنه عالي المخاطر.
أسهل طريقة لربط التقييمات معاً هي من خلال سجل الذكاء الاصطناعي حيث يتم ربط كل حالة استخدام بالفحص والمسؤولية وتقييم المخاطر والقرارات.
وثق التصنيف
تتضمن حزمة حوكمة الذكاء الاصطناعي 2026: سجل الذكاء الاصطناعي، تقييم مخاطر الذكاء الاصطناعي، تقييم الأثر للذكاء الاصطناعي، مراجعة الموردين، سياسة الذكاء الاصطناعي، وتدفق الحوكمة.
السعر: 199 كرونة سويدية.
اطلع على حزمة حوكمة الذكاء الاصطناعي 2026أدلة ذات صلة
سجل الذكاء الاصطناعي · حوكمة الذكاء الاصطناعي خطوة بخطوة · سياسة الذكاء الاصطناعي للشركات
المصادر
دليل تفصيلي ذو صلة
اقرأ أيضًا الذكاء الاصطناعي في محطات مياه الشرب – تصنيف المخاطر والاختبار والتشغيل البديل. يجب تحديد القواعد والمسؤوليات المنطبقة على الحالة الفعلية.
القوالب المذكورة في المقال
تعمّق في الموضوع
أدلة للشركات – العقود والموارد البشرية والذكاء الاصطناعي والامتثالسجل الذكاء الاصطناعي – كيف تقوم الشركات بجرد وتصنيف أنظمة الذكاء الاصطناعي الخاصة بها
هكذا تبني سجلاً عملياً للذكاء الاصطناعي يتضمن الأنظمة، وحالات الاستخدام، والموردين، والبيانات، ودور قانون الذكاء الاصطناعي (AI Act)، وتصنيف المخاطر...
أدلة للشركات – العقود والموارد البشرية والذكاء الاصطناعي والامتثالحوكمة الذكاء الاصطناعي – كيف تبني الشركات حوكمة للذكاء الاصطناعي خطوة بخطوة
دليل عملي لحوكمة الذكاء الاصطناعي: الجرد، التصنيف، تقييم المخاطر، فحص الموردين، الاعتماد، المعرفة بالذكاء الاصطناعي والمتابعة.
أدلة للشركات – العقود والموارد البشرية والذكاء الاصطناعي والامتثالسياسة الذكاء الاصطناعي للشركات – ما الذي يجب أن تتضمنه ومتى تكون هناك حاجة إليها؟
ما الذي يجب أن تتضمنه سياسة الذكاء الاصطناعي؟ دليل عملي لأدوات الذكاء الاصطناعي المسموح بها، والبيانات، والرقابة البشرية، ومحو الأمية في مجال الذكا...



