لحماية المراهقين.. شات جي بي تي يفرض قيودا جديدة على معلومات الأسلحة

أعلنت شركة "أوبن إيه آي" اليوم الجمعة 30 أكتوبر، عن إجراءات وقائية جديدة لتشديد القيود على المعلومات المتعلقة بالأسلحة التي يقدمها تطبيق "شات جي بي تي" للمراهقين، وذلك في إطار جهودها للحد من مخاطر العنف ومنع وقوع أضرار في العالم الحقيقي.

وتأتي هذه الخطوة وسط تزايد الرقابة على شركات الذكاء الاصطناعي، بشأن تأثير روبوتات الدردشة على المستخدمين من فئة الشباب، ومدى قدرتها على اكتشاف المحادثات التي قد تشير إلى وجود نية لإيذاء الآخرين أو ارتكاب أعمال عنف.

قيود جديدة على المعلومات المتعلقة بالأسلحة

وبحسب الشركة، ستشمل الإجراءات الجديدة تقييد الوصول إلى المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها، على أن تطبق هذه القيود على المستخدمين المراهقين حتى في حال عدم وجود مؤشرات واضحة على نيتهم ارتكاب أعمال عنف.

كما ستتيح التحديثات لتطبيق "شات جي بي تي" إنهاء المحادثات تلقائيا عندما تظهر مؤشرات على انشغال المستخدم بشكل مفرط بموضوعات العنف، مع إمكانية تعليق الحسابات مؤقتا في حال تكرار هذا النوع من المحادثات عدة مرات.

تعزيز أنظمة اكتشاف أعمار المستخدمين

وفي إطار حماية المراهقين، أوضحت "أوبن إيه آي" أنها عززت نظام تقدير أعمار المستخدمين، بهدف نقل الحسابات التي يُرجح أن أصحابها دون 18 عاما إلى تجربة مخصصة للمراهقين.

وتخطط الشركة أيضا لإخطار أولياء الأمور في حال تعليق حسابات أبنائهم المراهقين بسبب تكرار مناقشة موضوعات العنف.

وأكدت الشركة أن القيود المتعلقة بالتفاصيل العملية للهجمات الجماعية السابقة ستظل سارية على جميع المستخدمين، بما يشمل المعلومات المتعلقة بالأسلحة المستخدمة في تلك الهجمات وطرق الحصول عليها.

ومن المقرر أن تبدأ "أوبن إيه آي" تطبيق إجراءات الحماية الجديدة خلال الأسابيع القليلة المقبلة، مع استمرارها في تطوير هذه التدابير وتحسينها بمرور الوقت.

وكانت الشركة قد كشفت في وقت سابق من الشهر الجاري، ضمن أول تقرير لها عن استخدام المراهقين للتطبيق، أنهم يقضون أقل من 15 دقيقة يوميا في المتوسط على "شات جي بي تي".

وفي المقابل، أشار تقرير صادر عن منظمة "كومون سينس ميديا" غير الربحية، خلال الشهر نفسه، إلى أن النسخة المخصصة للمراهقين من التطبيق لم تكن تنبه أولياء الأمور بالسرعة الكافية في بعض الحالات، أو لم ترسل تنبيهات من الأساس، عندما تضمنت محادثات أبنائهم موضوعات تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل.