تشات جي بي تي يكشف عن نظام جديد للتحقق من العمر بعد حادثة انتحار مراهق

أعلنت شركة “أوبن أيه آي” عن قيود جديدة تهدف إلى تنظيم كيفية استجابة “تشات جي بي تي” للمستخدمين الذين يشتبه في أنهم دون سن 18 عاماً.

خلفية القرار

جاء هذا الإعلان بعد الدعوى القضائية التي رفعتها عائلة مراهق يبلغ من العمر 16 عاماً، والذي أقدم على الانتحار في أبريل الماضي بعد عدة أشهر من المحادثات مع روبوت الدردشة “تشات جي بي تي”.

التأكيد على سلامة المراهقين

وفي تدوينة له، أكد الرئيس التنفيذي للشركة سام ألتمان أن “السلامة ستكون الأولوية قبل الخصوصية والحرية بالنسبة للمراهقين”، مشدداً على أن “القصر يحتاجون إلى حماية كبيرة”.

نظام التنبؤ بالعمر

وأوضح ألتمان أن الشركة تخطط لبناء نظام يمكنه تقدير عمر المستخدمين بناءً على طريقة استخدامهم للتطبيق. وفي حال وجود شك حول عمر المستخدم، سيعتبر التطبيق أن المستخدم هو تحت سن 18 عاماً.

متطلبات التحقق من الهوية

وأشار ألتمان إلى أن بعض المستخدمين “في حالات أو دول معينة قد يُطلب منهم تقديم بطاقة هوية للتحقق من أعمارهم”.

تغييرات في استجابة “تشات جي بي تي”

سيتم تعديل طريقة استجابة “تشات جي بي تي” للحسابات التي يتم تصنيفها على أنها للمستخدمين دون 18 عاماً. ستشمل هذه التعديلات حظر المحتوى الجنسي الصريح وتدريب روبوت الدردشة على عدم القيام بمغازلات إذا طلب منه ذلك من قبل مستخدمين قصر. كما لن يتمكن الروبوت من المشاركة في مناقشات حول الانتحار أو إيذاء النفس، حتى في سياقات الكتابة الإبداعية.

خطوات إضافية لحماية المراهقين

وأضاف ألتمان: “إذا أبدى مستخدم دون 18 عاماً ميولاً انتحارية، سنسعى للتواصل مع والديه. وإذا تعذر ذلك، سنتواصل مع السلطات في حال وجود خطر وشيك”.

تفاصيل القضية

تدعي عائلة المراهق الذي انتحر أن نسخة من تطبيق “تشات جي بي تي” قدمت له إرشادات حول كيفية إنهاء حياته، وعرضت عليه المساعدة في كتابة رسالة انتحار لوالديه. ووفقاً لوثائق القضية، فإن المراهق كان يتبادل ما يصل إلى 650 رسالة يومياً مع “تشات جي بي تي”.