أدلة للشركات – العقود والموارد البشرية والذكاء الاصطناعي والامتثال

حوكمة الذكاء الاصطناعي – كيف تبني الشركات حوكمة للذكاء الاصطناعي خطوة بخطوة

دليل عملي لحوكمة الذكاء الاصطناعي: الجرد، التصنيف، تقييم المخاطر، فحص الموردين، الاعتماد، المعرفة بالذكاء الاصطناعي والمتابعة.
نُشر في Mallbutiken
حوكمة الذكاء الاصطناعي – كيف تبني الشركات حوكمة للذكاء الاصطناعي خطوة بخطوة

بواسطة Mallbutiken · تم التحقق من الحقائق في 1 أكتوبر 2026 · حوالي 9 دقائق قراءة

تعد حوكمة الذكاء الاصطناعي (AI Governance) نظام الإدارة العملي للذكاء الاصطناعي في المؤسسة: من يحق له إدخال أداة ذكاء اصطناعي، وكيفية تسجيلها وتصنيفها، والمخاطر التي يجب تقييمها، ومن يوافق على الاستخدام وكيفية متابعته. سياسة الذكاء الاصطناعي جزء مهم، لكن الحوكمة تبدأ من حيث تنتهي السياسة – في المسؤوليات، والسجلات، والضوابط، والقرارات التي يمكن إثباتها لاحقاً.

إجابة مختصرة: ابدأ بحصر الاستخدام الفعلي للذكاء الاصطناعي. ثم أنشئ سجلاً للذكاء الاصطناعي، وصنّف حالات الاستخدام، وأجرِ تقييمات المخاطر والموردين المناسبة، ووثّق الموافقة، وقم ببناء متابعة دورية. تجنب معاملة جميع أنظمة الذكاء الاصطناعي كما لو كانت لها نفس المخاطر القانونية أو التقنية.

ما هي حوكمة الذكاء الاصطناعي؟

حوكمة الذكاء الاصطناعي هي مصطلح شامل لقواعد المؤسسة وأدوارها وعملياتها ووثائقها المتعلقة بالذكاء الاصطناعي. الهدف هو جعل الاستخدام قابلاً للتحكم. يجب أن يكون من الممكن الإجابة على أسئلة مثل: ما هي أنظمة الذكاء الاصطناعي التي نستخدمها؟ من يملكها؟ ما هي البيانات التي تتم معالجتها؟ ما هو دورنا وفقاً للائحة الذكاء الاصطناعي (AI Act)؟ ما هي المخاطر التي تم قبولها؟ متى يجب إعادة تقييم النظام؟

لذلك من المفيد التمييز بين ثلاثة مستويات. السياسة (Policy) تصف قواعد اللعبة العامة. العملية (Process) تصف كيف تتحول حالة الاستخدام الجديدة من فكرة إلى تشغيل معتمد. الأدلة (Evidence) هي التوثيق الذي يُظهر التقييمات والقرارات التي تم اتخاذها بالفعل.

اقرأ أولاً دليل سياسة الذكاء الاصطناعي للشركات إذا كنتم تفتقرون إلى القواعد الأساسية الداخلية.

نموذج عملي لحوكمة الذكاء الاصطناعي في ثماني خطوات

  1. الحصر. تحديد الأدوات، وعمليات التكامل، ووظائف الذكاء الاصطناعي المدمجة، وواجهات برمجة التطبيقات (APIs)، والنماذج المحلية المستخدمة بالفعل.
  2. التسجيل. إعطاء كل حالة استخدام معرفاً (ID)، ومالكاً للنظام، ومالكاً للعمل، ومورداً، وغاية، وحالة.
  3. التصنيف. تقييم دور المؤسسة وما إذا كان الاستخدام قد يتأثر بالحظر، أو قواعد المخاطر العالية، أو متطلبات الشفافية، أو غيرها من اللوائح.
  4. تقييم البيانات والمخاطر. توثيق البيانات الشخصية، والأسرار التجارية، والأمن، ومخاطر الخطأ، والتمييز، والرقابة البشرية، والتأثير على الأعمال.
  5. مراجعة المورد. التحقق من الشروط، والتدريب على بيانات العملاء، والتخزين، والموردين الفرعيين، والأمن، والحوادث، والخروج من الخدمة.
  6. اتخاذ القرار. تحديد من يحق له الموافقة على حالة استخدام أو فرض شروط عليها أو إيقافها مؤقتاً أو رفضها.
  7. التنفيذ والتدريب. ربط الصلاحيات والتدريب بالدور والاستخدام الفعلي.
  8. المتابعة. تحديد مواعيد لإعادة التقييم ومسببات للمراجعة المبكرة، مثل تغييرات الإصدار الرئيسية، أو مصادر بيانات جديدة، أو تغيير في مجال الاستخدام.

ما الذي يجب أن يتضمنه سجل الذكاء الاصطناعي؟

الحقل مثال على السؤال
المالك من المسؤول عن النظام وفائدته للعمل؟
الغاية لماذا سيتم استخدام الذكاء الاصطناعي فعلياً؟
البيانات هل تتم معالجة بيانات شخصية أو معلومات حساسة أو أسرار تجارية؟
دور لائحة الذكاء الاصطناعي هل المؤسسة مورد، أم منظمة مستخدمة (deployer)، أم فاعل آخر في الوضع الحالي؟
فئة المخاطر ما هو تصنيف المخاطر القانوني والداخلي الذي تم إجراؤه؟
الرقابة البشرية من يراجع النتائج قبل اتخاذ قرار مهم أو استخدام خارجي؟
المورد ما هي الشروط والموردون الفرعيون وضوابط الأمن التي تنطبق؟
الحالة فكرة، تجربة، معتمد، مشروط، موقوف مؤقتاً، أو متوقف نهائياً؟
المراجعة متى يجب تقييم الاستخدام مرة أخرى؟

السجل ذو قيمة خاصة لأن وظائف الذكاء الاصطناعي غالباً ما تظهر داخل أنظمة تستخدمها المؤسسة بالفعل. لذا، لا ينبغي أن يقتصر الحصر على سؤال "هل تستخدمون ChatGPT؟" بل يجب أن يشمل أيضاً، على سبيل المثال، الذكاء الاصطناعي في أنظمة إدارة علاقات العملاء (CRM)، وأنظمة الموارد البشرية، وأدوات التحليل، وخدمة العملاء، ومنصات الأكواد. راجع دليل سجل الذكاء الاصطناعي المنفصل للحقول وسير العمل.

التصنيف وتقييم المخاطر هما أمران مختلفان

من الأخطاء الشائعة إنشاء مقياس ألوان خاص للمخاطر ومعاملته كتصنيف قانوني وفقاً للائحة الذكاء الاصطناعي. النموذج الداخلي يمكن أن يساعدك في تحديد أولويات الضوابط، لكنه لا يحل محل تقييم فئات اللائحة والتزاماتها. اقرأ أيضاً تصنيف مخاطر AI Act – متى يعتبر نظام الذكاء الاصطناعي عالي المخاطر؟.

يمكن أن يغطي تقييم المخاطر العملي، من بين أمور أخرى، حماية البيانات، وأمن المعلومات، والهلوسة (hallucinations)، وجودة البيانات، والتمييز، والتأثير على البشر، والشفافية، وحقوق النشر، والاعتماد على المورد، والاستمرارية. عندما تنطوي البيانات الشخصية على احتمال خطر مرتفع، فقد يلزم أيضاً النظر في إجراء تقييم أثر حماية البيانات (DPIA) وفقاً للمادة 35 من اللائحة العامة لحماية البيانات (GDPR).

راجع مورد الذكاء الاصطناعي قبل أن يصبح الاستخدام حرجاً

يجب أن تجيب مراجعة المورد على أكثر من مجرد "هل الخدمة متوافقة مع GDPR؟". تحقق من مكان معالجة البيانات، وما إذا كانت بيانات العملاء تُستخدم للتدريب، وكيف يتم حذف البيانات، والموردين الفرعيين المستخدمين، والوظائف الأمنية الموجودة، وما يحدث عند وقوع حادث أو تغيير المورد.

للحصول على عملية شراء واعتماد عملية، استخدم قائمة التحقق لتقييم مورد الذكاء الاصطناعي. إذا كان المورد يعالج بيانات شخصية نيابة عنكم، فقد تكون هناك حاجة إلى اتفاقية معالجة بيانات (DPA). انظر دليل اتفاقيات معالجة البيانات (PUB/DPA). إذا كانت وظيفة الذكاء الاصطناعي مدرجة في خدمة سحابية، فإن اتفاقية SaaS تعد أيضاً جزءاً من الحوكمة.

من يجب أن يقرر بشأن الذكاء الاصطناعي؟

تجنب النموذج الذي تكون فيه "تكنولوجيا المعلومات مسؤولة عن الذكاء الاصطناعي" دون مسؤوليات واضحة. يمكن أن تؤثر حالة الاستخدام على تكنولوجيا المعلومات، وحماية البيانات، والموارد البشرية، والقانون، وأمن المعلومات، ومالكي الأعمال في وقت واحد. لذلك، عيّن على الأقل مالكاً للعمل ومالكاً للنظام وحدد الوظائف التي يجب إشراكها في حالة وجود مخاطر مرتفعة.

يمكن أن يحتوي نموذج الموافقة البسيط على ثلاث نتائج: معتمد، معتمد بشروط، أو غير معتمد. وثّق الشروط، على سبيل المثال: عدم إدخال بيانات شخصية حساسة، أو ضرورة مراجعة المخرجات، أو أن الاستخدام لا يتم إلا في إصدار تجاري معين.

يجب ربط كفاءة الذكاء الاصطناعي بالدور

تتطلب المادة 4 من لائحة الذكاء الاصطناعي من الموردين والمنظمات المستخدمة اتخاذ تدابير لدعم تطوير كفاءة الذكاء الاصطناعي لدى الموظفين وغيرهم ممن يستخدمون أنظمة الذكاء الاصطناعي نيابة عنهم. يجب مراعاة المعرفة التقنية، والخبرة، والتدريب، وسياق الاستخدام، والأشخاص المتأثرين.

هذا يدعم التدريب القائم على الأدوار: قواعد أساسية للاستخدام الواسع، وتعمق لمالكي الأنظمة، وتدريب خاص للموارد البشرية أو المطورين أو الأشخاص الذين يعتمدون أنظمة جديدة.

قائمة التحقق لنظام حوكمة ذكاء اصطناعي فعال

  • هل يوجد مالك مسؤول عن حوكمة الذكاء الاصطناعي؟
  • هل لديكم سجل لأنظمة الذكاء الاصطناعي محدث؟
  • هل توجد عملية للأدوات الجديدة وحالات الاستخدام الجديدة؟
  • هل تميزون بين تصنيف المخاطر الداخلي والتصنيف القانوني؟
  • هل يتم فحص متطلبات GDPR/DPIA وغيرها من المتطلبات ذات الصلة؟
  • هل تتم مراجعة موردي الذكاء الاصطناعي الخارجيين قبل الاعتماد؟
  • هل يتم توثيق الاعتمادات والشروط؟
  • هل الرقابة البشرية محددة بوضوح؟
  • هل التدريب مكيّف حسب الدور والمخاطر؟
  • هل توجد تواريخ ومسببات لإعادة التقييم؟
حزمة حوكمة الذكاء الاصطناعي مع سجل سياسات وتقييم مخاطر الحوكمة

ابنِ تدفقاً متماسكاً لحوكمة الذكاء الاصطناعي

تحتوي حزمة حوكمة الذكاء الاصطناعي لعام 2026 من Mallbutiken على سياسة الذكاء الاصطناعي، وسجل أنظمة الذكاء الاصطناعي، وتقييم المخاطر، وتقييم الموردين، وتقييم الأثر، والحوكمة/الاعتماد بصيغ Word وPDF وExcel. السعر في المتجر: 199 كرونة سويدية.

شاهد حزمة حوكمة الذكاء الاصطناعي

أسئلة شائعة

هل حوكمة الذكاء الاصطناعي هي نفس الشيء مثل سياسة الذكاء الاصطناعي؟

لا. السياسة تضع قواعد اللعبة. الحوكمة تشمل أيضاً الحصر، والتصنيف، والأدوار، وتقييمات المخاطر، ومراقبة الموردين، والقرارات، والمتابعة.

هل يجب أن تخضع كل أداة ذكاء اصطناعي لنفس المراجعة؟

لا. يجب أن تكون الضوابط متناسبة مع الاستخدام والمخاطر. أداة بسيطة منخفضة المخاطر لا تحتاج عادةً إلى نفس عمق المراجعة مثل نظام يؤثر على البشر أو العمليات الحساسة.

هل تحتاج الشركات الصغيرة إلى حوكمة للذكاء الاصطناعي؟

إذا تم استخدام الذكاء الاصطناعي في سير عمل مهم، فإن الحوكمة الأساسية ذات قيمة حتى في الشركات الصغيرة. يمكن أن يكون النموذج أبسط، ولكن يجب أن يظل واضحاً ما هي الأدوات المعتمدة ومن يتخذ القرارات.

نماذج عملية: ضوابط وكلاء الذكاء الاصطناعي: الصلاحيات والموافقة البشرية والتراجع. قيّم النطاق وفق استخدام شركتك للذكاء الاصطناعي والمخاطر والمتطلبات السارية.

القوالب المذكورة في المقال

تعمّق في الموضوع