الذكاء الاصطناعي في إدارة المخاطر: هل يمكنه استبدال تقدير الخبراء؟

هناك تحول هادئ يحدث في فرق إدارة المخاطر واستمرارية الأعمال. فالذكاء الاصطناعي يقوم الآن بمسح الأفق، وتلخيص بيانات الحوادث، وتقييم المخاطر، وحتى إعداد مسودة سجل المخاطر. بعض هذه المهام مفيد حقًا، لكن الإغراء الذي يصاحبها ليس كذلك. إنه الإغراء بترك الذاء الاصطناعي يفكر بالنيابة عنا، والتعامل مع المخرجات المكتوبة بثقة وبصياغة جيدة على أنها تقييم نهائي. وهنا تكمن النقطة التي تنهار عندها الإدارة الجيدة للمخاطر بهدوء.

ما هو دور الذكاء الاصطناعي في إدارة المخاطر؟

يعني الذكاء الاصطناعي في إدارة المخاطر استخدام أدوات مثل نماذج لغوية كبيرة، والأنظمة المستقلة ذات الوكالة "الوكيل الذكي" بصورة متزايدة لدعم دورة إدارة المخاطر.

ومن الناحية العملية، يشمل ذلك:

مسح الأفق واستشراف المستقبل
جمع البيانات وتلخيصها
اقتراح تصنيفات المخاطر
إعداد مسودات سجلات المخاطر
مراقبة التغييرات في الوقت الفعلي

هذه قدرات حقيقية، ويمكنها توفير وقت ثمين لفرق إدارة المخاطر. فالسؤال ليس ما إذا كنا سنستخدم الذكاء الاصطناعي أم لا، بل هو ما هو حجم التقدير والتحكيم البشري الذي أنت على استعداد للتنازل عنه لصالح الآلة.

المشكلة: الإغراء بترك الذكاء الاصطناعي يفكر بالنيابة عنا

إن تقييم المخاطر الذي يُنتجه الذكاء الاصطناعي في ثوانٍ معدودة لا يعادل تقييمًا حقيقيًا للمخاطر. ومع ذلك، فإن السرعة والطلاقة تجعل من السهل قبول هذه المخرجات والمضي قدمًا. الخطر هنا مزدوج: فالذكاء الاصطناعي يفوت المخاطر المهمة، كما أن التقدير البشري يضعف تدريجيًا بسبب الاعتماد المفرط عليه.

لماذا لا يمكن للذكاء الاصطناعي تولي تحديد المخاطر وتقييمها؟

1. الذكاء الاصطناعي يطابق الأنماط ولا يفهم طبيعة عملك

يتنبأ الذكاء الاصطناعي بالنصوص بناءً على الأنماط الموجودة في بيانات التدريب المسبقة. وهو لا يفهم عملياتك، أو ثقافتك، أو سياق عملك. لذا، سوف يظهر المخاطر الشائعة لكنه سيتغاضى عن المخاطر الخاصة بالمنشأة. ولذلك، تظل المهارات البشرية مثل التفكير في الأسباب الجذرية وتقييم الضوابط أمرًا أساسيًا لا غنى عنه.

2. يبدو أكثر ثقة عندما يكون مخطئًا

لا يعبر الذكاء الاصطناعي عن الشك والتردد، بل يقدم إجابات مصقولة ومنمقة حتى عندما يكون منطقه معيبًا، بل وقد يقوم بفبركة الحقائق وتأليفها. وفي أعمال إدارة المخاطر، تُعد الإجابات الخاطئة الواثقة أكثر خطورة من الثغرات الواضحة لأنها تقلل من حجم التدقيق والتمحيص.

3. هو أعمى عن المخاطر الأكثر أهمية

غالبًا ما تكون المخاطر الأكثر خطورة غير مألوفة، أو سياسية، أو غير مريحة، ولا تتوفر في بيانات التدريب. ويجد الذكاء الاصطناعي صعوبة في إبراز هذه المخاطر لأنه مدرب على الأنماط السابقة ومصمم للتركيز على ما هو محتمل ومألوف.

4. الاعتماد المفرط يضعف كفاءة وتقدير الفريق بمرور الوقت

إذا اعتمدت الفرق على الذكاء الاصطناعي لتحديد المخاطر، فإنهم سيتوقفون عن ممارسة المهارات التحليلية الأساسية. ومع مرور الوقت، تضعف مهارات البديهة والاستقصاء والتفكير النقدي، مما يجعل الفرق غير قادرة على مراجعة مخرجات الذكاء الاصطناعي ونقدها.

5. يضيف الذكاء الاصطناعي مخاطر جديدة تزامناً مع تقييمه للمخاطر القديمة

يأتي الذكاء الاصطناعي بفئات مخاطر خاصة به:

• الأنظمة ذات الوكالة (الوكلاء الأذكياء) التي تعمل بشكل مستقل

• عمليات التصيد الاحتيالي القائمة على الذكاء الاصطناعي والتزييف العميق

• التظاهر بالذكاء الاصطناعي "AI washing" (المبالغة في تقدير القدرات والادعاءات الزائفة)

لذلك، يجب أن يشمل تقييم مخاطر الذاء الاصطناعي تقييم الذكاء الاصطناعي نفسه.

ما تظهره الأدلة والحقائق

هذا ليس مجرد تنظير وافتراضات. فقد تم تسجيل 233 حادثة ضارة مرتبطة بالذكاء الاصطناعي في عام 2024، بزيادة تقارب 56 بالمئة مقارنة بالعام السابق. ويمكن أن يصل معدل النقر على روابط التصيد الاحتيالي التي يولدها الذكاء الاصطناعي إلى حوالي 54 بالمئة مقارنة بحوالي 12 بالمئة للهجمات التقليدية. كما تسببت حوادث احتيال عبر التزييف العميق في خسائر وصلت إلى 25 مليون دولار في بعض الحالات.

وبناءً على ذلك، بدأ المشرعون وشركات التأمين في اتخاذ إجراءات:

• تؤثر حوكمة الذكاء الاصطناعي الآن على قرارات الاكتتاب التأميني

• تعمل أطر المرونة التشغيلية مثل قانون الصمود الرقمي التشغيلي (DORA) (الذي يدخل حيز التنفيذ في 2025) على تشديد وتغليظ الرقابة والضوابط

• سيعمل قانون المرونة السيبرانية (2027) على رفع مستويات وتوقعات الامتثال بشكل أكبر

لقد أصبح الذكاء الاصطناعي نفسه الآن خطرًا خاضعًا للحوكمة والرقابة.

أين يساعد الذكاء الاصطناعي، وأين يعتبر التقدير البشري جوهريًا

الحل: عين ثانية مساندة، لا العين الأساسية الوحيدة

إن الحل لا يكمن في حظر الذكاء الاصطناعي، فهذا أمر غير واقعي. بل إن النهج الصحيح هو وضعه واستخدامه في مكانه المناسب والصحيح.

استخدم الذكاء الاصطناعي لجمع المعلومات وتلخيصها وتحديد الإشارات، وليس لاتخاذ القرارات.
اجعل هناك شخصاً بشرياً محدداً ومسؤولاً عن اعتماد وتوقيع كل تقييم للمخاطر.
تحقق من المخرجات عبر البحث عن الأسباب الجذرية واستيعاب السياق العام للأعمال عبر أقسام المنشأة.
تعامل مع أنظمة الذكاء الاصطناعي باعتبارها أصولاً ذات مخاطر خاضعة للحوكمة.
حافظ على كفاءة وقدرة التقدير البشري وحمايتها من خلال الممارسة المستمرة والمستدامة.

لا يمكن تفويض ملكية المخاطر للأدوات والآلات الحاسبة.

الخلاصة وركيزة القول

سيغير الذكاء الاصطناعي من كيفية أداء أعمال إدارة المخاطر، لكنه لن يغير الشخص المسؤول عنها. فالمنظمات التي تستخدم الذكاء الاصطناعي لتعزيز تقديرها وتحكيمها البشري ستتحرك بشكل أسرع وترى أبعادًا أكثر، في حين أن تلك التي تستبدل تقديرها البشري بالذكاء الاصطناعي ستنتهي بسجلات مخاطر تبدو واثقة لكنها تفتقر للتحقق والواقعية.