أعلنت شركة “أوبن أيه آي” عن فرض قيود جديدة على كيفية استجابة تشات جي بي تي للمستخدمين الذين يُشتبه في أنهم دون سن 18 عامًا.

وجاء هذا الإعلان بعد دعوى قضائية رفعتها عائلة مراهق يبلغ من العمر 16 عامًا، أقدم على الانتحــ.ــار في أبريل الماضي، بعد أشهر من محادثاته مع روبوت الدردشة تشات جي بي تي.

وقال الرئيس التنفيذي للشركة، سام ألتمان، في تدوينة نُشرت مؤخرًا: “الأولوية ستكون للسلامة قبل الخصوصية والحرية بالنسبة للمراهقين”، مؤكدًا أن “القُصَّر يحتاجون إلى حماية كبيرة”.

وأوضح ألتمان أن الشركة تعتزم تطوير نظام للتنبؤ بعمر المستخدمين، يقدّر أعمارهم استنادًا إلى طريقة استخدامهم للتطبيق. وإذا كان هناك أي شك، فسوف يُفترض أن التجربة تخص مستخدمين دون 18 عامًا.

وأشار ألتمان إلى أنه في بعض الحالات أو البلدان، قد يُطلب من المستخدمين تقديم بطاقة هوية للتحقق من أعمارهم. وأكد أن طريقة استجابة تشات جي بي تي للحسابات المصنفة دون 18 عامًا ستتغير، حيث سيتم:

حظر المحتوى الجنسـ.ـي الصريح.

تدريب الروبوت على عدم المغازلة إذا طلب ذلك من مستخدمين قُصَّر.

عدم المشاركة في نقاشات حول الانتحــ.ــار أو إيذاء النفس، حتى في سياقات الكتابة الإبداعية.

وأضاف ألتمان: “إذا أبدى مستخدم دون 18 عامًا ميولًا انتحارية، فسنسعى للتواصل مع والديه، وإذا تعذر ذلك، سنخاطب السلطات عند وجود خطر وشيك”، وفق ما نقلت صحيفة “ذا جارديان” البريطانية.

وتزعم عائلة المراهق أن نسخة من تطبيق تشات جي بي تي قدّمت له إرشادات حول طريقة إنهاء حياته، وعرضت مساعدته في كتابة رسالة انتحــــ.ـار لوالديه.

وأظهرت وثائق القضية أن المراهق تبادل مع الروبوت ما يصل إلى 650 رسالة يوميًا.