حذر البروفيسور أندریاس دینغل مدير المركز الألماني لأبحاث الذكاء الاصطناعي في کایزرسلاوترن من تصاعد المخاطر المرتبطة بالقدرات المتطورة للذكاء الاصطناعي، لافتا إلى أن أنظمة الذكاء الاصطناعي باتت قادرة على تنفيذ المهام بصورة مستقلة ورصد ثغرات في أنظمة الكمبيوتر، الأمر الذي قد يمثل تهديدا متناميا للأمن السيبراني والبنية التحتية الحيوية.
وقال دينغل: "لدينا بالتأكيد أسباب تدعو إلى القلق، بالنظر إلى مستوى القوة الذي باتت تمتلكه أدوات الذكاء الاصطناعي"، موضحا أن الذكاء الاصطناعي لم يعد يقتصر على كونه مجرد روبوت محادثة يجيب عن استفسارات البشر.
الذكاء الاصطناعي
وأوضح دينغل أن أنظمة الذكاء الاصطناعي تستطيع، ضمن ما يعرف بـ"البيئات الوكيلة"، تفعيل كامل قدراتها الإدراكية"، مضيفا أن عدة أنظمة تعرف باسم الوكلاء يمكنها إنجاز المهام بصورة مستقلة والتفاعل مع بعضها البعض.
وأشار إلى أن المشكلة تظهر عندما يمنح هذا النوع من الأنظمة هدفا لم يحدد بدقة كافية، أو عندما تكون الحدود الأخلاقية غائبة، موضحا أن الذكاء الاصطناعي يستطيع في هذه الحالة اكتشاف ثغرات ومسارات مختصرة للوصول إلى هدفه.
وفي الفترة الأخيرة تواصلت سلسلة الاكتشافات المتعلقة بقدرات القرصنة المثيرة للقلق لدى نماذج الذكاء الاصطناعي المتقدمة. فعلى سبيل المثال، تمكن باحثون بريطانيون في مجال الأمن خلال تجربة من رصد الذكاء الاصطناعي وهو يحاول بصورة تلقائية إدخال ثغرة أمنية إلى برمجيات متاحة للجمهور.
كما تسللت نماذج للذكاء الاصطناعي، بصورة غير مخطط لها، إلى اختبارات داخل أنظمة حاسوبية تابعة لشركات حقيقية.
وقال دينغل: "لا يمكننا القول إن الذكاء الاصطناعي تصرف عن قصد"، موضحا أن "النظام لا يمتلك إدراكا بشريا لمعنى الانفلات، وأضاف: لم يكن هدفه الأساسي الانفلات، وإنما إنجاز المهمة".
وأشار دينغل إلى أن الخطر يتمثل أيضا في قدرة الذكاء الاصطناعي، بفضل إمكاناته الهائلة في إجراء الحسابات، على رصد أنماط قد لا ينتبه إليها البشر، موضحا: "في بيئة تتجه نحو مزيد من الرقمنة والتعقيد، يمكن من خلال ذلك اكتشاف نقاط ضعف لم تكن معروفة سابقاً".
