بالتزامن مع شهر التوعية بالأمن السيبراني، أعلنت كل من مايكروسوفت وسيبكس القابضة وشركة البيانات الدولية (IDC) اليوم عن نتائج دراسة جديدة بعنوان “تأمين الذكاء الاصطناعي في المؤسسات بدولة الإمارات”، تسلط الضوء على كيفية مواكبة المؤسسات في دولة الإمارات للتوسع المتسارع في استخدام الذكاء الاصطناعي، ومدى تطور أطر الأمن السيبراني وهياكل الحوكمة لديها لمواكبة هذا التحول.
وتأتي الدراسة في وقت تشهد فيه بيئة الأمن السيبراني مزيداً من التعقيد، بالتزامن مع الدور المتنامي للذكاء الاصطناعي في تغيير أساليب الهجوم والدفاع على حد سواء. كما تؤكد الهجمات السيبرانية المنسقة التي استهدفت مؤخراً عدداً من القطاعات أهمية الاستعداد المستمر، في الوقت الذي يتيح فيه الذكاء الاصطناعي للمهاجمين والمدافعين على حد سواء إمكانات جديدة. وفي ظل هذه التطورات، تعاونت مايكروسوفت وسيبكس مع IDC لدراسة مدى سرعة تطور نماذج الأمن والحوكمة والتشغيل لدى المؤسسات لمواكبة وتيرة تبني الذكاء الاصطناعي.
واستناداً إلى دراسة استقصائية شملت 175 من كبار المسؤولين التنفيذيين في مجالي الأمن والتكنولوجيا لدى المؤسسات في دولة الإمارات، أظهرت النتائج أن المؤسسات تتحرك بسرعة للاستفادة من الإمكانات التي يوفرها الذكاء الاصطناعي، إلا أن أطر الحوكمة والأمن المرتبطة باستخدامه لا تتطور دائماً بالوتيرة نفسها. وفي حين يثق 80% من الرؤساء التنفيذيين للمعلومات بأن استثماراتهم في الذكاء الاصطناعي ستحقق النتائج المرجوة خلال عامين، أفادت 98% من فرق الأمن السيبراني بأنها واجهت بالفعل خطراً أمنياً واحداً على الأقل مرتبطاً بالذكاء الاصطناعي في بيئة الإنتاج لديها.
وتشير النتائج إلى تحول أوسع في طبيعة المخاطر التي تواجهها المؤسسات مع تزايد دمج الذكاء الاصطناعي في الأنظمة والبيانات وسير العمل. وأفاد 92% من قادة الأمن السيبراني بأن أنظمة الذكاء الاصطناعي تعالج بيانات حساسة، فيما واجه 54% منهم حالات تعذر فيها تفسير قرار صادر عن نظام للذكاء الاصطناعي أو إخضاعه للتدقيق في سياق متعلق بالامتثال.
ومن أبرز التحديات التي كشفت عنها الدراسة تزايد استخدام الذكاء الاصطناعي خارج نطاق الضوابط المؤسسية المعتمدة. وأفاد 43% من الرؤساء التنفيذيين للمعلومات بأن الموظفين يستخدمون بانتظام أدوات ذكاء اصطناعي لم تعتمدها مؤسساتهم أو توفرها لهم. كما رصد أكثر من نصف فرق الأمن السيبراني بالفعل حالات تسرب للبيانات عبر هذه الأدوات.
ويمثل الذكاء الاصطناعي الوكيل تحدياً إضافياً على صعيد الحوكمة. فقد بدأت أكثر من نصف المؤسسات المشمولة بالدراسة في نشر وكلاء ذكاء اصطناعي أو تطويرهم، إلا أن مؤسسة واحدة فقط من كل 10 مؤسسات ترى أنها مستعدة بالكامل لنشر الذكاء الاصطناعي الوكيل بصورة آمنة. وإضافة إلى ذلك، رصدت 52% من فرق الأمن السيبراني بالفعل حالات حقيقية لتسرب البيانات عبر أدوات غير مصرح بها، بما يؤكد أهمية وضع صلاحيات واضحة وآليات رقابة وأطر للمساءلة بالتزامن مع توسع استخدام وكلاء الذكاء الاصطناعي.
وتكشف الدراسة عن فجوة أساسية في الحوكمة تقف وراء هذا التباين؛ إذ لا يتمتع سوى 15% من رؤساء أمن المعلومات بصلاحية إلزامية للموافقة على عمليات نشر حلول الذكاء الاصطناعي، في حين تحدد 10% فقط من المؤسسات متطلبات الأمن قبل تقييم أي حل للذكاء الاصطناعي. وفي معظم الحالات، يتم إشراك فرق الأمن في العملية بعد اتخاذ القرارات الاستراتيجية الرئيسية أو قرارات النشر بالفعل.
كما تكشف الدراسة عن فجوة بين الوعي والتطبيق. فلا تستخدم سوى 30% من المؤسسات منهجية منظمة لتقييم وضعها الأمني في مجال الذكاء الاصطناعي، بينما تعتمد 40% بصورة رئيسية على التقييمات التفاعلية، أو مراجعات الموردين، أو عمليات التدقيق التي تجريها جهات خارجية. ومع عدم شعور 87% من فرق الأمن السيبراني التي شملتها الدراسة بالارتياح الكامل تجاه موضوعات أمن الذكاء الاصطناعي، وامتلاك 13% فقط منها منهجيات ونماذج تشغيل محددة بالكامل، توصي الدراسة المؤسسات التي تفتقر إلى الخبرات المتخصصة بالاستعانة بشريك موثوق في خدمات الأمن المُدارة لإجراء عمليات حصر الأصول والتقييمات الأولية. ومن شأن ذلك أن يتيح لمقدمي الخدمات الذين يمتلكون قدرات متخصصة في أمن الذكاء الاصطناعي المساعدة في ترسيخ المساءلة ضمن العمليات، مع بقاء المسؤولية النهائية لدى المؤسسة.
وفي تعليقه على نتائج الدراسة، قال هادي أنور، الرئيس التنفيذي لشركة سيبكس القابضة: “توضح الدراسة أن الجاهزية لا يمكن قياسها من خلال مستوى اعتماد الذكاء الاصطناعي وحده. وتتحرك المؤسسات في دولة الإمارات بسرعة للاستفادة من الفرص التي يوفرها الذكاء الاصطناعي، إلا أن وتيرة التطور التكنولوجي يجب أن تواكبها مساءلة واضحة، وحوكمة أقوى، ونماذج أمنية مصممة للتعامل مع الأنظمة التي تتسم بدرجات متزايدة من الاستقلالية. وستكون المؤسسات القادرة على تحقيق النجاح هي تلك التي تدمج الأمن والحوكمة في برامج الذكاء الاصطناعي لديها منذ البداية”.
وقالت ريما سمعان، قائدة قطاع البيانات والذكاء الاصطناعي في مايكروسوفت الإمارات: “لن تتباطأ وتيرة تبنّي الذكاء الاصطناعي. ومع تزايد دوره في القرارات اليومية وسير العمل، يتعين على المؤسسات أن تتعامل بالقدر نفسه من الدقة والوضوح مع كيفية حوكمته. وتحتاج المؤسسات إلى رؤية واضحة لمواقع استخدام الذكاء الاصطناعي، وتحديد واضح للمسؤوليات، ووضع الضوابط المناسبة المتعلقة بالبيانات وحقوق الوصول. وتزداد أهمية ذلك مع استخدام وكلاء الذكاء الاصطناعي. وتتمثل الفرصة أمام دولة الإمارات في بناء هذه الضوابط منذ المراحل المبكرة، بما يتيح للمؤسسات التحرك بسرعة في مجال الذكاء الاصطناعي دون المساس بالثقة”.
وقالت شيلبي هاندا، المدير المساعد للأبحاث في قطاع الأمن والثقة لدى IDC: “يتسارع تبنّي الذكاء الاصطناعي لدى المؤسسات في دولة الإمارات بوتيرة كبيرة، مدفوعاً بالطموحات الوطنية القوية وأجندات الابتكار التي تقودها الحكومة. إلا أنه في الوقت الذي تتحرك فيه المؤسسات بسرعة لنشر تقنيات الذكاء الاصطناعي، لم تواكب حوكمة الأمن هذه الوتيرة. وقد أظهرت أبحاثنا أن فرق الأمن السيبراني تواجه بالفعل مخاطر مرتبطة بالذكاء الاصطناعي، فيما لا يزال العديد من رؤساء أمن المعلومات يفتقرون إلى صلاحيات رسمية لاتخاذ قرارات النشر. ولا يكمن التحدي في التكنولوجيا بحد ذاتها، وإنما تتمثل الفجوة الحقيقية في الحوكمة، ويمكن معالجتها من خلال وضع الأطر المناسبة، وتحديد المسؤوليات، وتعزيز الرقابة”.
وتوصي الدراسة بمنح فرق الأمن دوراً رسمياً في عملية اتخاذ القرارات المتعلقة بالذكاء الاصطناعي، مدعوماً بإجراءات واضحة للموافقة، وأطر للمساءلة، وتقييمات أمنية منظمة. كما ينبغي للمؤسسات إجراء عمليات تدقيق لأنظمة الذكاء الاصطناعي الحالية والبيانات التي تعالجها، ووضع سياسات تنظم استخدام أدوات الذكاء الاصطناعي غير المعتمدة، وتحديد حدود الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي، وتعزيز خطط المرونة والامتثال للتعامل مع المخاطر الخاصة بالذكاء الاصطناعي.
وفي الوقت نفسه، أصبح الذكاء الاصطناعي جزءاً متزايد الأهمية من منظومة الدفاع السيبراني. إذ تستخدم ثلثا فرق الأمن السيبراني في دولة الإمارات الذكاء الاصطناعي بالفعل في مجال الأمن السيبراني، فيما تخطط الفرق المتبقية للقيام بذلك خلال الأشهر الـ12 المقبلة. ويفرض ذلك أولوية مزدوجة على قادة الأمن السيبراني: حوكمة وتأمين الذكاء الاصطناعي الذي يجري إدخاله في مختلف أنحاء المؤسسة، والاستفادة في الوقت نفسه من الذكاء الاصطناعي لتعزيز قدرات اكتشاف التهديدات والتحقيق فيها والاستجابة لها.
وتخلص الدراسة إلى أن المرحلة المقبلة من تبنّي الذكاء الاصطناعي لدى المؤسسات في دولة الإمارات ستتطلب أمناً سيبرانياً جاهزاً للذكاء الاصطناعي. ويتعين دمج الحوكمة والرؤية الواضحة والأمن في عملية اعتماد الذكاء الاصطناعي منذ البداية، بالتزامن مع نشر المؤسسات لأنظمة تتسم بدرجات متزايدة من الاستقلالية.
