الرئيس التنفيذي
أشرف الحادي

رئيس التحرير
فاطمة مهران

4 خطوات لاستخدام الذكاء الاصطناعي بصورة آمنة

استعرضت شركة بالو ألتو نتوركس اليوم، وعلى لسان أناند أوسوال، نائب الرئيس الأول والمدير العام لأمن الشبكات لدى بالو ألتو نتوركس أبرز المخاطر الخفيّة لاستخدام الذكاء الاصطناعي في المؤسسات.

ويمكن لاعتماد تطبيقات الذكاء الاصطناعي التوليدي غير المرخصة أن يسفر عن مجموعة واسعة من المشاكل المتعلقة بالأمن الإلكتروني تتراوح من تسريب البيانات، وصولاً إلى مخاطر البرمجيات الخبيثة. ويعود السبب في ذلك إلى عدم معرفة المؤسسات لمن يقوم باستخدام تلك التطبيقات، وما هي المعلومات الحساسة التي تصل إليها، وما الذي يحدث لتلك المعلومات بعد مشاركتها مع التطبيقات. وبالنظر إلى حقيقة أن التطبيقات ليست جميعها مصممة لتتناسب مع معايير الأمن الإلكتروني للمؤسسة، فقد تشتمل تلك التطبيقات على روابط خبيثة، وأن تكون بمثابة مدخل للجهات التخريبية لاختراق شبكات المؤسسات والوصول إلى أنظمة هذه المؤسسات وبياناتها. ويمكن لجميع هذه الأمور أن تؤدي إلى انتهاك المتطلبات التنظيمية للامتثال، والكشف عن البيانات الحساسة، وسرقة الملكية الفكرية، وتعطيل العمليات، والتسبب بخسائر مالية. وعلى الرغم من إمكانية توفير هذه التطبيقات لزيادات ملموسة في الإنتاجية، إلا أن هناك مخاطر وتبعات جدية مرتبطة باعتمادها بطريقة غير آمنة.

ومن الأمثلة على هذه المخاطر:

  • فرق التسويق التي تستخدم تطبيقات غير مرخصة قائمة على الذكاء الاصطناعي من أجل إنشاء صور المجلات ومحتوى الفيديو. إذ قام فريق التسويق بتحميل معلومات حساسة على التطبيق، ومن ثم تسربت التفاصيل الحساسة للمنتجات الحساسة، فسيكون ذلك أمراً سيئاً.
  • مدراء المشاريع الذين يستخدمون تطبيقات تدوين الملاحظات المعززة بالذكاء الاصطناعي من أجل تفريغ نصوص الاجتماعات وتقديم موجزات مفيدة. إذا اشتملت نصوص الاجتماعات على مناقشات سرية حول النتائج المالية للربع الحالي وذلك قبل الإعلان عن النتائج الفصلية فسيتسبب ذلك بكارثة.
  • المطورون الذين يستخدمون الروبوتات الافتراضية المساعدة وخدمات تحسين الترميز من أجل تسريع عملية تقديم المنتجات. حال اشتمل أحد الرموز المقدمة من أحد التطبيقات غير الآمنة على نصوص برمجية خبيثة فسيتسببون بكارثة.

يشكل ما سبق بعض الأمثلة القليلة حول كيف يمكن للاستخدام حسن النية للذكاء الاصطناعي التوليدي أن يؤدي إلى زيادة المخاطر بطريقة غير مقصودة. ومن جهة أخرى، فإن حجب استخدام هذه التقنيات قد يحد من قدرة المؤسسات على تعزيز ميزاتها التنافسية، لذلك فإن اتخاذ مثل هذه الإجراء ليس هو الحل أيضاً. ولذلك يمكن للشركات، بل ويجب عليها، أن تأخذ وقتها في دراسة كيفية تمكين الموظفين من استخدام هذه التطبيقات بشكل آمن، وفيما يلي بعض الاعتبارات التي يمكن أخذها بالحسبان:

  1. الاطلاع على جميع الجوانب المتعلقة بتدفق البيانات: لا يمكن حماية ما نجهله. ومن أكبر التحديات التي تواجه فرق تكنولوجيا المعلومات بخصوص التطبيقات غير المرخصة هو صعوبة الاستجابة لحوادث الأمن الإلكتروني على الفور، ما يزيد من إمكانية وقوع خروقات الأمن الإلكتروني. ولذلك، يتوجب على كل مؤسسة مراقبة استخدام تطبيقات الذكاء الاصطناعي التوليدي المقدمة من أطراف خارجية، وفهم المخاطر المحددة المرتبطة بكل أداة منها. واستناداً إلى فهمها للأدوات التي يتم استخدامها، تحتاج فرق تكنولوجيا المعلومات إلى الاطلاع على جميع الجوانب المتعلقة بالبيانات المتدفقة داخل المؤسسات وخارجها، الأمر الذي يساعد في كشف الخروقات الأمنية وضبطها ومعالجتها بسرعة.

  1. التحكم: يجب أن تتمتع فرق تكنولوجيا المعلومات بالقدرة على اتخاذ قرارات سديدة بخصوص حجب أو السماح أو الحد من إمكانية الوصول إلى تطبيقات الذكاء الاصطناعي للأطراف الخارجية سواءً كان ذلك على مستوى التطبيقات أو من خلال استخدام ضوابط قائمة على المخاطر أو مصنفة وفقاً لها. على سبيل المثال، قد تقرر المؤسسة حجب وصول كامل الموظفين إلى أدوات تحسين الترميز، والسماح فقط للمطورين بالدخول إلى أدوات تحسين الترميز المقدمة من أطراف خارجية وذلك بعد تأكد فرق الأمن الإلكتروني من سلامتها والسماح باستخدامها داخلياً.

  1. الأمن الإلكتروني: هل تقوم فرق العمل بمشاركة معلومات حساسة مع التطبيقات؟ يجب على فرق تكنولوجيا المعلومات ضمان عدم تسرب المعلومات الحساسة وذلك لحماية بيانات المؤسسة من سوء الاستخدام والسرقة. وتزيد أهمية هذا الأمر في حال كانت المؤسسة خاضعة للتنظيم أو لقوانين سيادة البيانات. ويعني ذلك من الناحية العملية مراقبة البيانات التي يتم إرسالها إلى تطبيقات الذكاء الاصطناعي التوليدي، ومن ثم تطبيق الضوابط الفنية لضمان عدم إرسال البيانات الحساسة أو المحمية مثل معلومات التعريف الشخصية أو بيانات الملكية الفكرية، إلى هذه التطبيقات.

  1. الوقاية من التهديدات: قد تكمن مخاطر استغلال نقاط الضعف تحت غطاء أدوات الذكاء الاصطناعي التوليدي التي تستخدمها فرق العمل. وبالنظر إلى المعدل السريع جداً الذي تم عبره تطوير العديد من هذه الأدوات وطرحها في السوق، فقد لا يمكن معرفة ما إذا كان النموذج المستخدم قد تم إنشاؤه باستخدام نماذج معيبة، أو ما إذا تم تدريبه وفقاً لبيانات غير صحيحة أو خبيثة، أو ما إذا كان يشتمل على مجموعة واسعة من نقاط الضعف المرتبطة بالذكاء الاصطناعي. وتعد مراقبة البيانات المتدفقة من هذه التطبيقات إلى مؤسستكم والتحكم بها من أفضل الممارسات التي يوصى بها في هذا السياق والتي تتيح البحث عن أي نشاط ضار أو مشبوه إن وجد.

أخبار ذات صلة

اورنچ مصر شريك الاتصالات الرسمي لقمة الدول الرقمية FDC Summit 2025

تحميل واستخدام أحدث نسخة من شات جي بي تي GPT 2025

ڤودافون مصر تتعاون مع GSMA لتعزيز الاستثمارات في قطاع الاتصالات المحمولة

كاسبرسكي تعيّن شركة الشرق الأوسط لأنظمة الاتصالات”MCS” موزعاً لحلول الأعمال في الشرق الأوسط وإفريقيا

جامعة «ASG» الأفريقية للحوكمة تشارك في قمة مستقبل الدول الرقمية بالقاهرة

وزير الاتصالات: التعاون بين الدول العربية والأفريقية ضرورة لحماية مجتمعاتنا من خطر السيبرانية

تعرف على مواصفات هاتف HONOR 90 Lite الجديد

مواصفات هاتف Oppo Reno 10 5G وسعره في الأسواق

آخر الأخبار
الإفتاء تعلن غدا الثلاثاء أول أيام شهر ذى القعدة لعام 1446 هجريًا رئيس أركان جيش الاحتلال الإسرائيلى يصدق على توسيع العمليات العسكرية في غزة اتش سي لتداول الأوراق المالية والسندات أفضل متنبئ للقطاع النقدي المصري في جوائز فوكس إيكونوميكس 2025 شركة التعمير والإسكان العقارية HDP تعلن انطلاق أعمال بناء مشروعها العقاري Taldaبمستقبل سيتي-القاهرة ... اورنچ مصر شريك الاتصالات الرسمي لقمة الدول الرقمية FDC Summit 2025 تحميل واستخدام أحدث نسخة من شات جي بي تي GPT 2025 بُكرة تعلن إصدار صكوك بقيمة ٣ مليار جنيه مصري لصالح "أمان لتمويل المشروعات" أسباب وحالات إيقاف دعم حساب المواطن في السعودية 1446 ڤودافون مصر تتعاون مع GSMA لتعزيز الاستثمارات في قطاع الاتصالات المحمولة شركة الدرعية توسع شراكتها في سوق السفر العربي لتعزيز السياحة السعودية عجلان بن سعد العجلان يفتتح معرض أوتوميكانيكا الرياض 2025 Kaspersky Appoints MCS as a B2B Distributor Across Middle East and Africa كاسبرسكي تعيّن شركة الشرق الأوسط لأنظمة الاتصالات"MCS" موزعاً لحلول الأعمال في الشرق الأوسط وإفريقيا "مركز استهداف تمويل الإرهاب" بالرياض .. جهودٌ فعّالة ورائدة في مكافحة جريمة الإرهاب وتمويله تقرير عاجل بشأن إعادة المُعاينة لعدد من السلاسل الغذائية "بلبن" و"كرم الشام" وأخرى جامعة «ASG» الأفريقية للحوكمة تشارك في قمة مستقبل الدول الرقمية بالقاهرة منطقة عسير تعزز مكانتها كوجهة سياحية مستدامة في سوق السفر العربي 2025 The Egyptian Biodynamic Association (EBDA) Hosts “Carbon Certificates and the Economy of Love” Forum... الجمعية المصرية للزراعة الحيوية تستضيف منتدى "شهادات الكربون واقتصاد المحبة" Accelerating India: TCS Launches Next-Gen Capabilities to Power the Country’s Ambitions toward Leade...