كشفت أبحاث جديدة صادرة عن “روبريك زيرو لابز” (Rubrik Zero Labs) عن فجوة مقلقة بين تسارع تبنّي المؤسسات لوكلاء الذكاء الاصطناعي وقدرتها على تأمينهم، مشيرةً إلى أن مؤسسات عديدة تُشغّل أنظمة مستقلة ضمن عملياتها دون الضوابط اللازمة لحوكمتها، بما يوسّع الفجوة بين الابتكار ومتطلبات الأمن.
ووفقاً لاستطلاع شمل أكثر من 1600 من قادة تقنية المعلومات والأمن السيبراني، يتوقع 86% من المشاركين أن تتجاوز قدرات وكلاء الذكاء الاصطناعي “ضوابط الحماية” المعتمدة لدى مؤسساتهم خلال الاثني عشر شهراً المقبلة. وفي المقابل، أفاد 23% فقط بأن لديهم رؤيةً كاملة للوكلاء العاملين ضمن بيئاتهم الرقمية، فيما يرجّح التقرير أن هذه النسبة أعلى من الواقع. وتبرز هنا معضلة محورية تتمثل في صعوبة تأمين هوياتٍ رقمية باتت تتخذ قرارات وتنفّذ إجراءات وتتفاعل مع بيانات شديدة الحساسية.
ومع اتساع الاعتماد على الوكلاء، يتفاقم ما يصفه التقرير بـ “تضخم الهويات”، إذ تتكاثر الهويات غير البشرية المرتبطة بالوكلاء بوتيرة أسرع من قدرة المؤسسات على تتبعها أو حوكمتها، لتتشكل ما يشبه “قوة عمل خفيّة” تعمل بصلاحيات وصول مستمرة وبإشراف محدود. ويعني ذلك اتساع مسارات سوء الاستخدام والاختراق و”التنقل الجانبي” داخل الشبكات، بما يزيد احتمالات التمدد من نظام إلى آخر عند وقوع حادثة أمنية.
وفي الوقت نفسه، تبيّن الدراسة أن الوعود التشغيلية لوكلاء الذكاء الاصطناعي تصطدم بعبء عملي متزايد. فأكثر من 80% من المشاركين أفادوا بأن الوكلاء يحتاجون إلى إشراف يدوي أكبر مما يوفرونه من مكاسب في الكفاءة. كما قال 88% إنهم يفتقرون إلى القدرة على التراجع عن إجراءات الوكيل دون التسبب في اضطراب الأنظمة. ويعكس هذا التحول اتجاهاً لافتاً: فالتحدي لم يعد محصوراً في منع الاختراق بقدر ما بات يدور حول القدرة على الاستعادة السريعة والحفاظ على استمرارية الأعمال عند تعقّد المشهد بفعل أنظمة لا تنتظر تدخلاً بشرياً.
وترى الدراسة أن التهديدات المرتبطة بوكلاء الذكاء الاصطناعي تتسارع بدورها، إذ يتوقع قرابة نصف المشاركين أن تقود أنظمة وكلاء الذكاء الاصطناعي معظم الهجمات خلال العام المقبل، بما يعكس تغيراً واسعاً في أساليب عمل المهاجمين. فالأنظمة المستقلة تختصر الزمن، وتوسّع نطاق الهجمات، وتمحي الحدود بين المخاطر الداخلية والاختراق الخارجي، مع قدرة أكبر على التحرك بسرعة وعلى نطاق واسع.
وتعليقاً على هذا الموضوع، قالت كافيثا ماريابان، الرئيس التنفيذي للتحول في روبريك: “يتسارع تبني الذكاء الاصطناعي بوتيرة تفوق قدرتنا على إحكام السيطرة عليه. وتتعثر مؤسسات عديدة لأنها نشرت أنظمة لا تستطيع مراقبتها أو حوكمتها أو استعادتها بالكامل. علينا تجاوز الجدل حول ما إذا كان الذكاء الاصطناعي محفوفاً بالمخاطر، والانتقال إلى الحقيقة الأهم: كلما انتقلت صناعة القرار من الإنسان إلى الآلة، أصبح الحفاظ على السلامة التشغيلية التحدي الحاسم لكل قائد في بيئة تزداد استقلالية”.
وبحسب التقرير، فإن انعكاسات هذه النتائج على مجالس الإدارات والفرق التنفيذية باتت مباشرة، إذ لم تعد استراتيجية الذكاء الاصطناعي منفصلة عن استراتيجية المرونة التشغيلية. وحذّر التقرير من أن تفضيل سرعة النشر على آليات التحكم قد يخلق بيئات يصعب احتواء إخفاقاتها أو عكس آثارها، خصوصاً عندما تصبح القدرة على الرصد والتراجع والاستعادة أقل من مستوى المخاطر.
من جهته، قال ميشيل مارييلا، مدير قسم أمن المعلومات في مجموعة مير (Maire): “قد يقوم مهندسٌ واحد من مهندسينا بإنشاء وكيل أو وكيلين من وكلاء الذكاء الاصطناعي أسبوعياً، ما يعني أن نطاق التعرض للمخاطر يتسع بصورة مستمرة. وبينما نمتلك أدوات للرصد والمتابعة، تبقى الأولوية القصوى في قدرتنا على الاستعادة السريعة”.
ويجمع تقرير “روبريك زيرو لابز”، بعنوان “حالة الوكيل: فهم الاعتماد والمخاطر وسبل التخفيف”، بين بيانات استطلاع عالمي وتحليل تقني لمسارات هجوم ناشئة عبر طبقات الأدوات والقدرات المعرفية والهوية في أنظمة الذكاء الاصطناعي. ويخلص التقرير إلى أن الأمن لم يعد يتمحور حول الوقاية وحدها، بل بات يرتكز على الحفاظ على التحكم والقدرة على الاستعادة في بيئات تتوسع فيها الأنظمة المستقلة وتزداد فيها الهويات غير البشرية نفوذاً وحساسية.
