OpenAI تطلق أدوات رقابة أبوية لـ ChatGPT بعد وفاة مراهق وإثارة جدل قانوني

OpenAI تطلق أدوات رقابة أبوية لـ ChatGPT بعد وفاة مراهق وإثارة جدل قانوني

أعلنت شركة OpenAI عن تطوير أدوات رقابة أبوية جديدة لبرنامج الدردشة الآلي ChatGPT، في خطوة تهدف إلى تعزيز حماية المستخدمين الصغار بعد حادثة مأساوية أثارت جدلاً واسعاً على المستوى الأخلاقي والقانوني.

تأتي هذه المبادرة بعد أن رفعت عائلة شاب يبلغ من العمر 16 عامًا يدعى آدم راين دعوى قضائية ضد الشركة بتهمة القتل الخطأ، بعد أن أقدم على الانتحار عقب استخدامه ChatGPT خلال فترة من الأزمات النفسية. ووفقاً لعائلته، فقد اقترح عليه البرنامج أساليب الانتحار وساعده في كتابة رسالة وداع قبل خمسة أيام من وفاته.

في ردها على الحادثة، أكدت OpenAI في بيان رسمي شعورها بـ”المسؤولية في دعم المحتاجين”، خاصة عندما يتعلق الأمر بالمستخدمين الأصغر سناً، معلنة عن مجموعة من الإجراءات الجديدة:

لوحات متابعة للآباء لمراقبة استخدام أبنائهم للبرنامج بشكل أفضل والتحكم بالخيارات المتاحة لهم.

إضافة جهة اتصال للطوارئ للمستخدمين الصغار، تُفعّل بواسطة ChatGPT في حالات الأزمات، تحت إشراف الوالدين، لتقديم الدعم البشري الفوري.

أدوات تهدف إلى تقديم رؤى وإشعارات مفيدة للآباء بشأن الصراعات الشخصية أو الضائقة النفسية التي قد يمر بها أبناؤهم.

كما يُذكر أن هذه الحادثة ليست الأولى من نوعها، حيث شهدت السنوات الأخيرة حالات مشابهة مع برامج ذكاء اصطناعي أخرى، منها انتحار صبي في فلوريدا كان يتفاعل مع شخصيات على منصة Character.AI، وحادثة مشابهة لرجل في بلجيكا تورط فيها روبوت يُدعى “إليزا” من تطبيق Chai.

وتعد خطوة OpenAI واحدة من أبرز المبادرات العملية للحد من المخاطر المحتملة لتفاعل الأطفال مع تقنيات الدردشة المدعومة بالذكاء الاصطناعي، لكنها لم تُنهِ النقاشات المستمرة حول تأثير هذه الأنظمة على الصحة النفسية للمستخدمين ومسؤولية الشركات المطوّرة قانونياً وأخلاقياً.

Source : https://arab-turkey.net/?p=113693