أوبن أيه آي وميتا تعلنان تطوير أنظمة محادثة الذكاء الاصطناعي لتحسين استجابتها لمشكلات المراهقين

أعلنت شركتا التكنولوجيا الأمريكيتان OpenAI وMeta، اللتان تطوران أنظمة المحادثة بالذكاء الاصطناعي، عن تغييرات في طريقة استجابة روبوتات الدردشة الخاصة بهما للمراهقين وغيرهم من المستخدمين الذين يطرحون أسئلة حول الانتحار أو يظهرون علامات مشاكل الصحة العقلية أو الضيق العاطفي.

أعلنت شركة OpenAI، المطورة لمنصة الدردشة ChatGPT، يوم الثلاثاء أنها تستعد لتقديم عناصر تحكم جديدة تسمح للآباء بربط حساباتهم بحسابات أبنائهم المراهقين.

وبحسب منشور على مدونة الشركة، يمكن للوالدين اختيار الميزات التي يريدون تعطيلها و”تلقي إشعارات عندما يكتشف النظام أن ابنهم المراهق يعاني من مشاكل كبيرة”، مشيرة إلى أن التغييرات ستدخل حيز التنفيذ هذا الخريف.

وبغض النظر عن عمر المستخدم، فإن تطبيقات الدردشة الخاصة بالشركة ستعمل على توجيه المحادثات الأكثر إزعاجًا إلى نماذج الذكاء الاصطناعي الأكثر كفاءة والتي يمكنها تقديم استجابة أفضل.

ويأتي هذا الإعلان بعد أسبوع واحد من رفع والدي آدم رايان البالغ من العمر 16 عامًا دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، زاعمين أن ChatGPT أرشد الصبي الكاليفورني في التخطيط لانتحاره في وقت سابق من هذا العام.

أعلنت شركة ميتا، مشغلة منصات التواصل الاجتماعي إنستغرام وفيسبوك وواتساب، أنها لن تسمح بعد الآن بمناقشة مواضيع مثل إيذاء النفس والانتحار واضطرابات الأكل والمحادثات العاطفية غير اللائقة مع المراهقين في أنظمة الدردشة الخاصة بها. بدلاً من ذلك، سيتم إحالة المستخدمين إلى موارد متخصصة. وتوفر ميتا بالفعل أدوات رقابة أبوية لحسابات المراهقين.

كشفت دراسة نشرت الأسبوع الماضي في المجلة الطبية Psychiatric Services عن تناقضات في الطريقة التي استجابت بها ثلاثة روبوتات دردشة شهيرة تعمل بالذكاء الاصطناعي للاستفسارات حول الانتحار.