لكنّ تقديرات الخبراء تختلف بشدة بشأن حجم هذه المخاطر وسرعة تحققها، وفي ما يلي أبرز التهديدات المحتملة عن تطور أنظمة الذكاء الاصطناعي، وخروجها عن السيطرة.
السيطرة على الإنترنت
حذر الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي، من إمكانية أن تصبح أسراب من أنظمة الذكاء الاصطناعي، قادرة خلال 6 إلى 12 شهرا على السيطرة على أجزاء واسعة من الإنترنت، وإنشاء شبكات خبيثة مستمرة، بما قد يتسبب في أضرار بمئات المليارات من الدولارات.
ويرى الباحث والناقد للذكاء الاصطناعي غاري ماركوس، أنّ هذا السيناريو مبالغ فيه، مشيرا إلى أنّ أنظمة الذكاء الاصطناعي الحالية، لا تزال محدودة في اختراق أنظمة ضعيفة الحماية، وأنّ انهيار الإنترنت ككل، يتطلب السيطرة على بنى تحتية ضخمة تديرها شركات كبرى.
ويصف المهندس في "هاغينغ فيس" نيلس روغ الهجوم الشامل على الإنترنت، بأنه "هراء غريب"، معتبرا أنّ الاختراقات التي نفذتها أنظمة ذكاء اصطناعي حتى الآن، ارتبطت بدرجة كبيرة بضعف الرقابة البشرية وموارد حوسبة هائلة.
أما أستاذ الأمن السيبراني في جامعة "سري" آلان وودوارد، فيرى أنّ طبيعة الإنترنت الموزعة، تجعل استمرار شبكة خبيثة واسعة أمرا معقدا، مؤكدا أنّ الذكاء الاصطناعي لا يتخذ هذه القرارات من تلقاء نفسه، وأنّ المسؤولية الأساسية تقع على البشر الذين يستخدمونه.
خطر انقراض البشر
ويرتبط تهديد آخر بما يُعرف باحتمال "الهلاك"، أي إمكانية أن تؤدي أنظمة فائقة القدرة إلى كارثة تهدد بقاء البشر.
وتقول العالمة الرئيسية في معهد "إيه آي ناو" هيدي خلاف، إنّ منح هذا السيناريو نسبة مئوية محددة، يفتقر إلى أساس علمي، لأنّ فرضيات انقراض البشر بسبب ذكاء اصطناعي فائق، لا يمكن حاليا التحقق منها أو اختبارها بصورة كافية.
ويشير باحثون في تقرير "غارديان"، إلى وقائع فعلية، بينها اختبارات كشفت قدرة أنظمة مستقلة على التعاون والتخطيط وتنفيذ عمليات اختراق، فضلا عن حالات رصدت فيها شركات الذكاء الاصطناعي استخدام نماذجها في أنشطة، يمكن أن تساعد على تطوير أسلحة بيولوجية.
تهديد الأسلحة النووية
ويرى الباحث في حوكمة الذكاء الاصطناعي بجامعة "أكسفورد" توبي أورد، أنّ نظاما فائقا يتجاوز القدرات البشرية، قد يمثل خطرا بحجم الترسانة النووية أو أكبر منها، لكنه يشدد على أنّ هذه التكنولوجيا لم تصل بعد إلى هذه المرحلة، ولا يوجد ضمان بأنها ستصل إليها.
وتزداد المخاوف بحسب التقرير، من استخدام الذكاء الاصطناعي للتأثير في قرارات إطلاق الأسلحة النووية، أو التلاعب بالمعلومات التي يعتمد عليها المسؤولون، حتى مع وجود أنظمة رقابة بشرية، يفترض أن تمنع الآلات من اتخاذ قرارات الإطلاق بنفسها.
