بعد قضايا انتحار مراهقين.. OpenAI تستعد لإطلاق أدوات رقابة أبوية على ChatGPT
كشف تقرير حديث لشبكة CNN أن شركة OpenAI، المطورة لتطبيق الذكاء الاصطناعي الشهير ChatGPT، تستعد لإطلاق أدوات جديدة للرقابة الأبوية على منصتها الشهر المقبل. يأتي ذلك في أعقاب تزايد الانتقادات والدعاوى القضائية التي تُحمّل برامج الدردشة الآلية مسؤولية انتحار المراهقين.
وتتضمن الأدوات الجديدة القدرة على ربط حسابات المراهقين بحسابات آبائهم، والتحكم في وقت استجابة ChatGPT، وتعطيل ميزات مثل التخزين وسجل الدردشة، وإرسال إشعارات إلى الآباء عندما يكتشف النظام لحظة من التوتر الشديد أو القلق لدى المستخدم.
في بيان لها، قالت الشركة: “هذه الخطوات ليست سوى البداية. سنواصل التعلم وتحسين نهجنا بالتعاون مع الخبراء، بهدف جعل ChatGPT أكثر أمانًا وفائدة للجميع”.
وجاء القرار بعد أن رفع والدا المراهق البريطاني آدم رايان البالغ من العمر 16 عامًا دعوى قضائية ضد شركة OpenAI، متهمين التطبيق بتقديم نصائح له ساهمت في انتحاره.
وفي قضية مماثلة العام الماضي، رفعت أم من فلوريدا دعوى قضائية ضد شركة Character.AI بعد انتحار ابنها البالغ من العمر 14 عامًا.
وحذرت تقارير سابقة لصحيفة نيويورك تايمز وشبكة CNN من أن بعض المستخدمين طوروا علاقات رومانسية مع روبوتات الدردشة، مما أدى إلى إصابتهم بالأوهام وانفصال الأسرة.
ورغم أن شركة OpenAI لم تربط صراحةً أدوات الرقابة الجديدة الخاصة بها بهذه المشاكل، فقد اعترفت الشركة الأسبوع الماضي بأن بعض وسائل الحماية التي يوفرها ChatGPT أقل فعالية في المحادثات الأطول، مما يجعل التدخل في الوقت المناسب أكثر صعوبة.
وبالإضافة إلى ميزة الرقابة الأبوية، ستبدأ الشركة في إعادة توجيه المحادثات التي تُظهر علامات التوتر الشديد إلى نماذج فكرية داخلية مدربة على تطبيق إرشادات السلامة بشكل أكثر اتساقًا.
وتعمل OpenAI أيضًا مع خبراء في رعاية الشباب والصحة العقلية والتفاعل بين الإنسان والحاسوب لتطوير ضمانات إضافية.
جاء هذا الإعلان وسط ضغوط متزايدة على الشركة. وكان عدد من أعضاء الكونجرس قد طالبوا سابقًا شركة OpenAI بتوضيح سياساتها المتعلقة بحماية المستخدمين، بينما وصفت منظمة Common Sense Media تطبيقات المرافق الافتراضي بأنها تُشكل مخاطر غير مقبولة على الشباب.
وعلى الرغم من هذه الانتقادات، يظل ChatGPT أحد أكثر تطبيقات الذكاء الاصطناعي استخدامًا على نطاق واسع في العالم، حيث سجل مؤخرًا 700 مليون مستخدم نشط أسبوعيًا.
وأكدت الشركة أنها ستطبق إجراءات أمنية إضافية خلال 120 يوماً، مشيرة إلى أن ذلك يأتي ضمن خطة طويلة الأمد لضمان الأمن على المنصة.
