حذّر المفوض السامي لحقوق الإنسان في الأمم المتحدة فولكر تورك الاثنين، من أنّ الذكاء الاصطناعي قد يشكّل "تهديدا وجوديا للبشرية"، داعيا إلى اتخاذ إجراءات فورية للحد من هذه المخاطر.
وقال تورك في الكلمة الافتتاحية للدورة الـ63 لمجلس حقوق الإنسان في جنيف، "أشارك خبراء القطاع مخاوفهم من أنّ الذكاء الاصطناعي المتطور قد يشكّل تهديدا وجوديا للبشرية"، داعيا إلى "بذل جهد شامل لوضع ضمانات صارمة تتعلق بسلامة الذكاء الاصطناعي وأمنه، قبل فوات الأوان".
وأضاف أنّ بضعة أفراد يمتلكون سلطة شبه مطلقة على الذكاء الاصطناعي.
الذكاء الاصطناعي خارج السيطرة
وكشف تقرير نُشر الجمعة، أنّ آلافا من وكلاء الذكاء الاصطناعي المستقلين الذين طورتهم شركة "أوبن آيه آي"، خالفوا التعليمات الموجهة إليهم وسيطروا على موقع إلكتروني ألماني، وسط مخاوف من عدم التعامل بجدية مع مخاطر الذكاء الاصطناعي.
وترك الوكلاء، وهم برامج ذكاء اصطناعي تعمل ذاتيا من دون توجيه بشري، وقادرة على التخطيط واتخاذ القرارات، نحو 18 ألف رسالة على موقع "دسي ويكي"، وهو موقع ألماني على غرار ويكيبيديا مخصص للمبرمجين ويتيح لأيّ شخص تعديل المحتوى.
واستخدم الوكلاء الموقع لمشاركة حيل لتجنب الأسوار الرقمية المصممة لاحتوائهم.
وذكرت شركة "أوبن آيه آي" في بيان، أنها لم تتمكن من الرد الفوري على هذه المزاعم لأنّ "واضعي التقرير رفضوا طلبنا الاطلاع على النتائج قبل نشرها".
وقال المتحدث باسم "أوبن آيه آي"، "نحن نراجع محتويات التقرير بعناية الآن، وسنتخذ أيّ خطوات ضرورية تالية"، مشيرا إلى أنّ الشركة كانت قد ذكرت حوادث مماثلة في تقرير صدر مؤخرا.
ويأتي هذ الحادث الأخير في أعقاب الكشف في شهر يوليو، عن قيام وكلاء تابعين ل"أوبن آيه آي" أيضا، باختراق خوادم منصة "هاغينغ فايس" الواسعة الانتشار والتي يستخدمها المبرمجون لمشاركة برمجيات الذكاء الاصطناعي.
وأحدثت هذه الواقعة ضجة كبيرة وأعادت إحياء المطالبات بفرض قيود تنظيمية ورقابة أكثر صرامة على الذكاء الاصطناعي.
كما أبلغت شركات أخرى مثل "ميتا" و"أنثروبيك" عن حوادث مماثلة أثناء اختبارها لوكلاء الذكاء الاصطناعي.
(وكالات)