أدلة للشركات – العقود والموارد البشرية والذكاء الاصطناعي والامتثال

تصنيف مخاطر قانون الذكاء الاصطناعي – متى يُعتبر نظام الذكاء الاصطناعي عالي المخاطر؟

دليل عملي لتصنيف المخاطر بموجب قانون الذكاء الاصطناعي: الاستخدامات المحظورة، والأنظمة عالية المخاطر وفقاً للمادة 6 والملحقين الأول والثالث، ومتطلبات الشفافية بموجب المادة 50، وكيفية توثيق الشركات لعملية التقييم.
نُشر في Mallbutiken
تصنيف مخاطر قانون الذكاء الاصطناعي – متى يُعتبر نظام الذكاء الاصطناعي عالي المخاطر؟

لا يتعلق تصنيف المخاطر بموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي بوضع تقييم عام "منخفض أو متوسط أو مرتفع" للمخاطر. إذ يتعين على الشركة أولاً تحديد نوع استخدام الذكاء الاصطناعي، ودور المؤسسة، وما إذا كانت هناك أحكام خاصة تنطبق على النظام.

تم التحقق من الحقائق في 1 أكتوبر 2026. هذا الدليل يقدم معلومات عامة ولا يغني عن الاستشارة القانونية الفردية.

الجدول الزمني مهم: أصبح قانون الذكاء الاصطناعي قابلاً للتطبيق بشكل أساسي في 2 أغسطس 2026. وبعد "أومنيبوس الذكاء الاصطناعي" (AI Omnibus)، يسري الجدول الزمني الجديد بحيث يبدأ تطبيق القواعد الخاصة بالحالات عالية المخاطر وفقاً للملحق الثالث في 2 ديسمبر 2027، وبالنسبة للذكاء الاصطناعي عالي المخاطر المدمج في المنتجات الخاضعة للتنظيم وفقاً للملحق الأول في 2 أغسطس 2028. أما متطلبات الشفافية في المادة 50، فهي مطبقة منذ 2 أغسطس 2026.

نموذج فحص عملي

السؤال ما تقومون بالتحقق منه
هل الحل هو نظام ذكاء اصطناعي بموجب القانون؟ حدد التقنية والوظيفة والغرض المقصود قبل المضي قدماً.
هل هناك استخدام محظور؟ الفحص مقابل المادة 5.
هل يمكن أن يكون عالي المخاطر؟ المادة 6 مع الملحق الأول أو الملحق الثالث.
هل تنطبق متطلبات الشفافية؟ المادة 50، على سبيل المثال: أنظمة ذكاء اصطناعي تفاعلية معينة، المحتوى الاصطناعي، التزييف العميق، واستخدامات أخرى معينة.
ما هو دور المؤسسة؟ مورد، مشغل/مستخدم، مستورد، موزع، أو أي دور آخر ذي صلة.
هل توجد تشريعات أخرى؟ اللائحة العامة لحماية البيانات (GDPR)، قانون العمل، السرية، قانون المستهلك، التنظيم القطاعي، والمزيد.

1. هل استخدام الذكاء الاصطناعي محظور؟

يجب أن يكون الفحص الأول هو ما إذا كان الاستخدام مشمولاً بحظر في المادة 5. المحظورات ليست هي نفسها "عالية المخاطر": الذكاء الاصطناعي المحظور لا يجوز استخدامه من حيث المبدأ بالطريقة التي يصفها الحظر. لذلك، يجب إجراء الفحص قبل أن تضيع المؤسسة وقتاً في تقييم مخاطر عادي.

قم بتوثيق حالة الاستخدام التي تم تقييمها، والوظائف التي يمتلكها النظام بالفعل، ولماذا تم اعتباره ضمن أو خارج نطاق الحظر. هذا مهم بشكل خاص عند استخدام الذكاء الاصطناعي في التنميط، أو الوظائف البيومترية، أو القرارات التي تؤثر على البشر.

2. هل النظام عالي المخاطر وفقاً للمادة 6؟

يحتوي قانون الذكاء الاصطناعي على مسارين رئيسيين لتصنيف المخاطر العالية. المسار الأول يتعلق بالذكاء الاصطناعي الذي يعد مكوناً أمنياً في منتجات معينة تخضع لتشريعات المنتجات المنسقة للاتحاد الأوروبي، أو يشكل هو نفسه تلك المنتجات، ويتطلب تقييماً من طرف ثالث. المسار الثاني يتعلق بحالات استخدام معينة في المجالات المحددة في الملحق الثالث.

يغطي الملحق الثالث مجالات استخدام حساسة بشكل خاص، بما في ذلك أجزاء من القياسات الحيوية (البيومترية)، والبنية التحتية الحيوية، والتعليم، والتوظيف، والوصول إلى بعض الخدمات الأساسية، وإنفاذ القانون، والهجرة، والقضاء. ومع ذلك، فإن حقيقة استخدام الشركة للذكاء الاصطناعي في الموارد البشرية، على سبيل المثال، لا تعني تلقائياً أن كل وظيفة ذكاء اصطناعي هي عالية المخاطر؛ إذ يجب تحليل الوظيفة الملموسة والغرض المقصود.

لا تزال توجيهات المفوضية الأوروبية الحالية بشأن المخاطر العالية مصنفة كمسودات. وهي بالتالي تعتبر توجيهات وأمثلة، وليست بديلاً عن نص اللائحة نفسه.

3. هل تنطبق متطلبات الشفافية في المادة 50؟

لا يحتاج النظام إلى أن يكون عالي المخاطر ليخضع لمتطلبات الشفافية. تسري المادة 50 منذ 2 أغسطس 2026 وتتضمن، من بين أمور أخرى، التزامات لأنظمة ذكاء اصطناعي معينة تتفاعل مباشرة مع البشر، وقواعد حول وضع العلامات أو المعلومات لأنواع معينة من المحتوى الذي يتم إنشاؤه أو التلاعب به بواسطة الذكاء الاصطناعي.

بالنسبة للمشغلين (deployers)، قد تصبح التزامات المعلومات الخاصة ذات صلة، من بين أمور أخرى، عند التعرف على المشاعر، والتصنيف البيومتري، والتزييف العميق، وبعض النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي حول قضايا المصلحة العامة. تختلف الاستثناءات والتفاصيل، لذا يجب التحقق من الاستخدام الملموس مقابل المادة 50 وتوجيهات المفوضية.

4. "ليس عالي المخاطر" لا يعني "بلا مخاطر"

خطأ شائع هو إنهاء التحليل عندما لا يندرج النظام تحت أحكام المخاطر العالية. إذ يمكن لأداة الذكاء الاصطناعي التوليدي أن تعالج بيانات شخصية، أو تحتوي على معلومات سرية، أو تنشئ مواد غير دقيقة، أو تؤثر على العملاء، أو تُستخدم في عمليات تتطلب رقابة بشرية.

لذلك، يجب على الشركة الفصل بين التصنيف القانوني بموجب قانون الذكاء الاصطناعي (AI Act) والمخاطر التشغيلية الداخلية. يمكن لمصفوفة المخاطر الداخلية تحديد أولويات الضوابط اللازمة حتى عندما لا يتم تصنيف النظام قانوناً على أنه عالي المخاطر.

أسهل طريقة لربط التقييمات معاً هي من خلال سجل الذكاء الاصطناعي حيث يتم ربط كل حالة استخدام بالفحص والمسؤولية وتقييم المخاطر والقرارات.

وثق التصنيف

تتضمن حزمة حوكمة الذكاء الاصطناعي 2026: سجل الذكاء الاصطناعي، تقييم مخاطر الذكاء الاصطناعي، تقييم الأثر للذكاء الاصطناعي، مراجعة الموردين، سياسة الذكاء الاصطناعي، وتدفق الحوكمة.

السعر: 199 كرونة سويدية.

اطلع على حزمة حوكمة الذكاء الاصطناعي 2026

أدلة ذات صلة

سجل الذكاء الاصطناعي · حوكمة الذكاء الاصطناعي خطوة بخطوة · سياسة الذكاء الاصطناعي للشركات

المصادر

دليل تفصيلي ذو صلة

اقرأ أيضًا الذكاء الاصطناعي في محطات مياه الشرب – تصنيف المخاطر والاختبار والتشغيل البديل. يجب تحديد القواعد والمسؤوليات المنطبقة على الحالة الفعلية.

القوالب المذكورة في المقال

تعمّق في الموضوع