حوكمة الذكاء الاصطناعي: لماذا يستخدم 98% من الموظفين السعوديين الذكاء الاصطناعي بلا ضوابط؟

حوكمة الذكاء الاصطناعي هي مجموعة السياسات والضوابط والمسؤوليات التي تحدد كيفية تبني المؤسسة للذكاء الاصطناعي واستخدامه بأمان. وفي معظم المؤسسات، وعبر المملكة العربية السعودية بشكل خاص، يتسارع التبني متجاوزاً تلك الحوكمة. يستخدم الأشخاص أدوات قوية وأسرع مما يضع أي شخص من قواعد، وتظهر الفجوة في شكل تكاليف متصاعدة، ومخرجات وهمية تخلق مسؤوليات قانونية، وبيانات مسربة. والحل ليس في إبطاء الذكاء الاصطناعي، بل في وضع حواجز الحماية في مكانها الآن: سياسة استخدام واضحة، وسقوف إنفاق صارمة، ومراجعة بشرية، وقواعد بيانات، والتوافق مع إطار عمل سدايا (SDAIA) ومعيار ISO/IEC 42001.

ادخل إلى أي مؤسسة تقريباً اليوم وستجد الذكاء الاصطناعي قيد العمل بالفعل. يكتب الناس به، ويبرمجون به، ويحللون به، ويقومون بالأتمتة من خلاله. وبدأ معظمهم قبل أن يكتب أي شخص سياسة للاستخدام.

هذا هو الخطر الحقيقي، وهو ليس التكنولوجيا نفسها. إنها الفجوة بين سرعة تبني الناس للذكاء الاصطناعي والبطء في مواكبة القواعد والضوابط والمسؤوليات. وبناءً على خبرتي في جميع أنحاء المنطقة، فإن هذه الفجوة تتسع ولا تضيق.

ما هي حوكمة الذكاء الاصطناعي؟

حوكمة الذكاء الاصطناعي هي إطار السياسات والضوابط والمسؤوليات التي تحدد كيفية تبني المؤسسة للذكاء الاصطناعي واستخدامه والإشراف عليه. وهي تجيب على أسئلة عملية: من يمكنه استخدام أي أدوات، وعلى أي بيانات، وضمن أي حدود، ومن المسؤول عندما يحدث خطأ ما.

الحوكمة الجيدة لا تبطئ الذكاء الاصطناعي. بل تمنحك القدرة على التبني بثقة، لأن حواجز الحماية موجودة بالفعل في مكانها.

المشكلة: التبني يهرول، والحوكمة تسير ببطء

لقد أوضحت المملكة العربية السعودية طموحها بجلاء. إذ أعلنت المملكة عام 2026 عاماً للذكاء الاصطناعي، وأصدرت سدايا إطاراً إلزامياً لتبني الذكاء الاصطناعي مبنياً على خمس ركائز: حوكمة البيانات، ومسؤولية النماذج، والشفافية، والإشراف البشري، وإدارة المخاطر.

إن الطموح في مساره الصحيح، لكن المشكلة تكمن في الجاهزية. فوفقاً لأحد التقارير، يستخدم حوالي 98 في المئة من موظفي القطاع الحكومي السعودي أدوات الذكاء الاصطناعي بالفعل، ومع ذلك لا تزال معظم المؤسسات تفتقر إلى سجلات التدقيق، وتصنيف البيانات، والاستجابة للحوادث الخاصة بالذكاء الاصطناعي واللازمة لحوكمة هذا الاستخدام. لقد تجاوز التبني حدود السيطرة.

وعندما يحدث ذلك، فإن الخسائر تكون متوقعة، وتأتي في ثلاثة أشكال.

ثلاث طرق تبرز من خلالها فجوة الحوكمة

1. التكاليف المتصاعدة الخارجة عن السيطرة

التسعير القائم على الاستخدام يكون متساهلاً في البداية ولكنه وحشي عند التوسع. وقد أفاد مبتكر إحدى الأدوات الشهيرة بإنفاق أكثر من 1.3 مليون دولار على الرموز الرقمية (Tokens) في شهر واحد، وتُشير الاستطلاعات إلى أن معظم المديرين التنفيذيين قد تعرضوا بالفعل لضربات مالية بسبب حوادث الذكاء الاصطناعي. حتى إن هذا النمط أصبح له لقب الآن وهو "tokenmaxxing"، حيث يتحول الاستخدام الحماسي إلى معدل إنفاق غير منضبط.

ويمكن أن يرتفع هذا الرقم إلى مستويات أعلى بكثير. فقد أفاد أحد مستشاري الذكاء الاصطناعي بأن أحد العملاء أنفق حوالي 500 مليون دولار على منصة ذكاء اصطناعي واحدة في شهر واحد بعد فشله في وضع حدود للاستخدام للموظفين. فدون وجود أسقف وحصص ومراقبة، تأتي الفاتورة قبل أن يأتي الإنذار.

2. الهلوسة والمسؤولية القانونية

يبدو الذكاء الاصطناعي واثقاً من نفسه حتى عندما يكون مخطئاً، وتلك الثقة تخلق مسؤولية حقيقية. إذ وافقت شركة ديلويت (Deloitte) على إعادة جزء من رسوم حكومية بعد أن احتوى تقرير قدمته على استشهادات مفبركة بواسطة الذكاء الاصطناعي. كما أُدينت الخطوط الجوية الكندية وحُمّلت المسؤولية عندما اخترع روبوت الدردشة الخاص بها سياسة لم تكن موجودة اصلاً. وتم فرض عقوبات على محامين لتقديمهم وثائق محكمة تستشهد بقضايا ألفها الذكاء الاصطناعي بالكامل.

في كل حالة، عملت الأداة كما صُممت. لكن ما كان مفقوداً هو المراجعة البشرية وسجل التدقيق الذي يُفترض أن تتطلبه الحوكمة.

3. تسرب البيانات والتعرض للمخاطر الأمنية

كل أمر مدخل (Prompt) هو تسرب محتمل للبيانات. وفي إحدى الحالات المعروفة، قام مهندسون بلصق كود برمجي مملوك للشركة في روبوت دردشة عام، وضاعت البيانات قبل حظر الأداة. ومنذ ذلك الحين، وثّق باحثو الأمن ثغرات خطيرة في أدوات المساعدة في البرمجة المدعومة بالذكاء الاصطناعي، بما في ذلك تسريب البيانات. والعديد من هذه المخاطر يأتي الآن عبر أدوات الموردين المضمنة في أنظمتكم، وهي أدوات الذكاء الاصطناعي التابعة لجهات خارجية والتي لم توافقوا عليها رسمياً قط.

ما يتوقعه المنظمون والمعايير الآن

لم يعد هذا مجرد توقع مرن. ففي المملكة العربية السعودية، يتواءم إطار عمل سدايا لحوكمة الذكاء الاصطناعي مع نظام حماية البيانات الشخصية، والذي يفرض غرامات تصل إلى 5 ملايين ريال، ومن المتوقع صدور نظام مخصص للذكاء الاصطناعي في غضون العامين المقبلين. وقد حصلت سدايا نفسها على شهادة ISO/IEC 42001، المعيار الدولي لنظم إدارة الذكاء الاصطناعي، مما يشير إلى الاتجاه الذي يجب على كل مؤسسة جادة اتباعه.

وعلى الصعيد الدولي، يرتفع السقف أيضاً، بدءاً من قانون الذكاء الاصطناعي للاتحاد الأوروبي وحتى التوجيهات الجديدة للمؤسسات المالية. والتقارب هنا واضح: أصبحت حوكمة الذكاء الاصطناعي، وحماية البيانات، والأمن السيبراني التزاماً واحداً متصلاً، وليست ثلاثة التزامات منفصلة.

الذكاء الاصطناعي غير الخاضع للحوكمة مقابل الذكاء الاصطناعي المحوكم

الحل: ضع حواجز الحماية قبل أن تزيد السرعة

الحل ليس في إبطاء التبني، بل في حوكمته بسرعة وعملية. وست خطوات كفيلة بسد معظم الفجوة.

• اكتب سياسة استخدام الذكاء الاصطناعي. وضح ببساطة الأدوات المعتمدة، وبأي غرض، وعلى أي بيانات، ومن هو المسؤول. فسياسة قصيرة وواضحة أفضل من سياسة طويلة لا يقرأها أحد.

• ضع حداً للإنفاق. حدد حدوداً صارمة، وحصصاً، ووصولاً متدرجاً إلى النماذج الأكثر تكلفة، مع لوحات معلومات وتنبيهات في الوقت الفعلي. يجب أن يوقف الحد الأقصى الفاتورة لا أن يقتصر على الإبلاغ عنها فقط.

• أبقِ العنصر البشري في الحلقة. اطلب المراجعة والموافقة البشرية على أي شيء يخرج من المؤسسة أو يوجه قراراً. الآلة تصوغ، والإنسان هو المسؤول.

• صنف بياناتك. حدد ما يجوز وما لا يجوز إدخاله في أدوات الذكاء الاصطناعي، واجعل القاعدة سهلة الاتباع. افترض أن كل أمر مدخل قد يتسرب.

• حوكم ذكاء الموردين الاصطناعي. تعامل مع الذكاء الاصطناعي المضمن والتابع لجهات خارجية كجزء من مساحة الهجوم الخاصة بك، مع شروط الإفصاح وحقوق التدقيق وبنود المسؤولية في العقود.

• توافق مع إطار عمل معترف به. وازن ضوابطك مع ركائز سدايا الخمس ومعيار ISO/IEC 42001، لتكون مستعداً للتنظيم القادم بدلاً من التخبط بعد صدوره.

لا شيء من هذا يعادي الذكاء الاصطناعي. بل هو ما يتيح لك قول نعم للذكاء الاصطناعي بثقة. حوكم أولاً وسيكون بإمكانك زيادة السرعة بأمان. أسرع أولاً وستصبح الحوكمة عملية تنظيف بعد الخسارة.

الخلاصة

الذكاء الاصطناعي هو فرصة العقد، والمملكة العربية السعودية على حق في السعي وراءه بطموح. ولكن الفرصة والمخاطر يسيران معاً. والمؤسسات التي ستفوز هي تلك التي تبني حواجز الحماية بالسرعة نفسها التي تتبنى بها الأدوات.

يتحرك الذكاء الاصطناعي بشكل أسرع من حوكمتك. أغلق تلك الفجوة الآن، بشروطك، قبل أن تغلقها فاتورة خارجة عن السيطرة، أو تقرير وهمي (مهلوس)، أو مجموعة بيانات مسربة بالنيابة عنك.

النقاط الرئيسية المستخلصة

• حوكمة الذكاء الاصطناعي هي السياسات والضوابط والمسؤوليات للاستفادة الآمنة من الذكاء الاصطناعي. والخطر الحقيقي هو الفجوة بين التبني والحوكمة.

• في المملكة العربية السعودية، يتسارع التبني وتفتقر معظم المؤسسات إلى سجلات التدقيق وتصنيف البيانات والاستجابة لحوادث الذكاء الاصطناعي.

• تظهر الفجوة في شكل تكاليف متصاعدة، ومسؤولية قانونية عن الهلوسة، وتسرب البيانات، وكلها تمت ملاحظتها في حالات واقعية.

• تتقارب الجهات التنظيمية والمعايير: يحدد إطار عمل سدايا، ونظام حماية البيانات الشخصية، ومعيار ISO/IEC 42001 هذا الاتجاه.

• طبق الحوكمة باستخدام سياسة استخدام، وسقوف إنفاق صارمة، ومراجعة بشرية، وتصنيف للبيانات، وضوابط للذكاء الاصطناعي الخاص بالموردين، والتوافق مع إطار العمل.

• الحوكمة لا تبطئ الذكاء الاصطناعي، بل تتيح لك التبني بثقة.