كشفت أحدث توقعات شركة جارتنر أن أكثر من 40% من حوادث خرق البيانات ستكون ناتجة عن سوء الاستخدام الذكاء الاصطناعي التوليدي من خارج الحدود بحلول عام 2027.

وتخطى الاعتماد السريع للذكاء الاصطناعي التوليدي من قبل المستخدمين النهائيين وتيرة تطور المعايير الخاصة بحوكمة البيانات وأمنها، ما عزز القلق بخصوص التوطين المحلي للبيانات بسبب قدرات الحوسبة المركزية المطلوبة لدعم هذه التقنيات.

وقال يورغ فريتش، نائب الرئيس للتحليلات لدى جارتنر: “غالباً ما يحدث النقل غير المقصود للبيانات عبر الحدود بسبب عدم كفاية الرقابة، وخاصة عندما يتم دمج الذكاء الاصطناعي التوليدي في المنتجات الحالية دون وجود توصيف أو إعلان واضح. أصبحت المؤسسات تلاحظ تغييرات في المحتوى الذي ينتجه الموظفون باستخدام أدوات الذكاء الاصطناعي التوليدي، وعلى الرغم من إمكانية استخدام هذه الأدوات في تطبيقات الأعمال المعتمدة، إلا أنها تشكل مخاطر أمنية في حال تم إرسال أوامر حساسة إلى أدوات الذكاء الاصطناعي وواجهات برمجة التطبيقات المُستضافة في مواقع غير معروفة”.

فجوات توحيد معايير الذكاء الاصطناعي تؤدي إلى عدم الكفاءة التشغيلية

يؤدي الافتقار إلى أفضل الممارسات والمعايير العالمية المتناغمة في مجال الذكاء الاصطناعي وحوكمة البيانات إلى تفاقم التحديات وذلك نتيجة تسببه هذا النقص بتجزئة السوق وإجبار المؤسسات على وضع استراتيجيات مخصصة للمناطق، الأمر الذي قد يؤثر على قدرتها على تطوير العمليات على الصعيد العالمي والاستفادة من منتجات وخدمات الذكاء الاصطناعي.

وأضاف فريتش: “يمكن للتعقيدات في إدارة تدفق البيانات والمحافظة على جودتها بسبب سياسات الذكاء الاصطناعي المحلية أن تؤدي إلى عدم الكفاءة التشغيلية. ويجب على المؤسسات الاستثمار في الحوكمة المتقدمة للذكاء الاصطناعي وأمنه من أجل حماية البيانات الحساسة وضمان الامتثال. وستؤدي هذه الحاجة إلى دفع النمو في أمن الذكاء الاصطناعي وإدارته وأسواق خدمات الامتثال، إلى جانب الحلول التقنية التي تحسن الشفافية والتحكم بإجراءات الذكاء الاصطناعي”.

يجب على المؤسسات اتخاذ خطوات قبل أن تصبح حوكمة الذكاء الاصطناعي إلزامية على الصعيد العالمي

تتوقع جارتنر أن تصبح حوكمة الذكاء الاصطناعي مطلباً لجميع القوانين والتشريعات السيادية المتعلقة بالذكاء الاصطناعي في جميع أنحاء العالم بحلول عام 2027.

وأوضح فريتش: “أن المؤسسات التي لن تتمكن من دمج نماذج وضوابط الحوكمة المطلوبة قد تخسر مزاياها التنافسية، وخاصة تلك المؤسسات التي تفتقر للمصادر التي تتيح لها وبسرعة توسيع أطر عمل حوكمة البيانات القائمة”.

وبهدف تخفيف مخاطر خروقات بيانات الذكاء الاصطناعي وخاصة الناتجة عن سوء استخدام الذكاء الاصطناعي التوليدي عبر الحدود، ومن أجل ضمان الامتثال، توصي جارتنر باتخاذ المؤسسات عدد من الخطوات الاستراتيجية:

تعزيز حوكمة البيانات: يجب على المؤسسات ضمان الامتثال للوائح الدولية ومراقبة النقل غير المقصود للبيانات عبر الحدود من خلال توسيع أطر حوكمة البيانات لتشمل إرشادات متعلقة بالبيانات التي تتم معالجتها بواسطة الذكاء الاصطناعي. ويشمل هذا الأمر دمج تقييمات تأثير سلسلة البيانات ونقل البيانات في التقييمات الدورية لتأثير الخصوصية.
تأسيس لجان للحوكمة: تشكيل لجان لتحسين الرقابة على الذكاء الاصطناعي وضمان التواصل الشفاف حول نشر الذكاء الاصطناعي والتعامل مع البيانات. ويجب على هذه اللجان أن تكون مسؤولة عن الرقابة الفنية، وإدارة المخاطر والامتثال، والتواصل، وإعداد التقارير عن القرارات المتخذة.
تعزيز أمن البيانات: استخدام التقنيات المتقدمة والتشفير وإخفاء الهوية من أجل حماية البيانات الحساسة. على سبيل المثال: التحقق من بيئات التنفيذ الموثوقة في مناطق جغرافية محددة، وتطبيق تقنيات متقدمة لإخفاء الهوية مثل الخصوصية التفاضلية عندما يتعين على البيانات مغادرة هذه المناطق.
الاستثمار في منتجات إدارة الثقة والمخاطر والأمن (TRiSM): تخطيط وتخصيص ميزانيات منتجات وقدرات إدارة الثقة والمخاطر والأمن (TRiSM) والمخصصة لتقنيات الذكاء الاصطناعي. ويشمل هذا الأمر حوكمة الذكاء الاصطناعي، وحوكمة أمن البيانات، وفلترة وتنقيح الأوامر، والتوليد الاصطناعي للبيانات غير المهيكلة. وتتوقع جارتنر أن تستخدم المؤسسات التي تطبق ضوابط إدارة الثقة والمخاطر والأمن (TRiSM) الخاصة بالذكاء الاصطناعي معلومات خاطئة أو غير شرعية أقل بنسبة 50% على الأقل بحلول عام 2026، ما يقلل من اتخاذ قرارات خاطئة.

يمكن لعملاء جارتنر معرفة المزيد عبر “توقعات 2025: الخصوصية في عصر الذكاء الاصطناعي وفجر الكمومية”.

يمكنكم الاطلاع على المزيد من المعلومات حول كيفية زيادة قيمة الذكاء الاصطناعي وإدارة المخاطر الحرجة عبر الكتاب الإلكتروني “الذكاء الاصطناعي في الأمن الإلكتروني: تقليل المخاطر وزيادة التأثير”.

قمة جارتنر للأمن الإلكتروني وإدارة المخاطر

سيقدم المحللون في جارتنر أحدث الأبحاث والنصائح إلى قادة الأمن الإلكتروني وإدارة المخاطر وذلك ضمن إطار فعاليات قمة جارتنر للأمن الإلكتروني وإدارة المخاطر التي ستنعقد خلال الفترة ما بين 3-4 مارس في سيدني، و10-11 مارس في الهند، و7-8 أبريل في دبي، و9-11 يونيو في ناشيونال هاربر ميريلاند، و23-25 يوليو في طوكيو، و5-6 أغسطس في ساو باولو، و22-24 سبتمبر في لندن.