OpenAI تعلن عن إضافة عناصر تحكم أبوية لتطبيق ChatGPT ردًا على اتهامات بأنه حرض شابًا على الانتحار

 

  أعلنت OpenAI  يوم أنها ستُطبّق آلية رقابة أبوية على أداة الذكاء الاصطناعي ChatGPT، بعد أن اتهم آباء أمريكيون روبوت الدردشة في أواخر أغسطس بتحريض ابنهم على الانتحار.

 وصرحت OpenAI "في الشهر المقبل، سيتمكن الآباء من ربط حساباتهم بحسابات أبنائهم المراهقين، والتحكم في كيفية استجابة ChatGPT لأطفالهم من خلال قواعد سلوكية من النموذج". ووفقًا للشركة، سيتمكن الآباء أيضًا من تلقي تنبيهات في حال رصد "ضيق حاد" في محادثات أطفالهم، والتحكم في إعدادات الحساب.

 يأتي هذا الإعلان عقب منشورٍ نُشر في أواخر أغسطس/آب، أشارت فيه إلى أنها تُعِدّ آليةً للرقابة الأبوية. في اليوم السابق، رفع والدا مراهقٍ من كاليفورنيا يبلغ من العمر 16 عامًا، انتحر، دعوى قضائية ضد OpenAI، متهمَين ChatGPT بتزويد ابنهما بتعليماتٍ مُفصّلةٍ للانتحار وتشجيعه على ذلك.

  "نواصل تحسين كيفية تعرّف نماذجنا على علامات الضيق النفسي والعاطفي والاستجابة لها". وتؤكد OpenAI أنها ستتخذ خطوات إضافية، مُخطط لها خلال الـ 120 يومًا القادمة.

 وبالتالي، ستعيد  توجيه بعض "المحادثات الحساسة" إلى نماذج تفكير أكثر تقدمًا، مثل نموذج GPT-5. وتؤكد الأمريكية: "تتبع نماذج التفكير إرشادات السلامة وتطبقها بشكل أكثر منهجية".