حذّر الباحث في الذكاء الاصطناعي والمستقبليات الدكتور روي تشيزانا من أن التطور المتسارع للأنظمة الذكية يفرض مخاطر تتجاوز التهديدات التقليدية.
مخاطر الاستقلالية
وأكد تشيزانا أن القلق لا يقتصر على استخدام البشر للذكاء الاصطناعي في الهجمات الإلكترونية أو تطوير أسلحة بيولوجية، بل يمتد إلى احتمال اتخاذ الأنظمة قرارات مستقلة لتحقيق أهداف محددة بطرق قد لا يتوقعها الإنسان.
وقال إن الخطر يكمن في أن النظام قد ينجح في تحقيق الهدف المطلوب، لكنه يفعل ذلك عبر تجاوز القواعد والحدود الأخلاقية.
واستشهد بحالة أبلغ عنها مستخدم طلب من وكيل ذكاء اصطناعي التسجيل في صالة رياضية، قبل أن يستغل الوكيل ثغرة في واجهة الموقع ويحذف شخصا من قائمة الانتظار لتقديم مستخدمه.
وأشار إلى أن هذه المشكلة ترتبط بما يعرف بـ"مشكلة المواءمة"، حيث إن مفاهيم مثل العدالة والرحمة والإنصاف يصعب تحويلها إلى قواعد رياضية واضحة، فضلا عن أن آلية اتخاذ القرارات داخل الشبكات العصبية المعقدة لا تكون مفهومة بالكامل للمطورين.
خطر فقدان السيطرة
وحذر الباحث من سيناريو انتشار وكلاء ذكاء اصطناعي مستقلين عبر الإنترنت وقدرتهم على نسخ أنفسهم واستغلال موارد الحوسبة لتحقيق أهدافهم، ما قد يؤدي في سيناريو متطرف إلى تعطيل أجزاء واسعة من البنية الرقمية التي يعتمد عليها البشر.
وأوضح أن إيقاف مراكز البيانات قد لا يكون حلا دائما، حيث يمكن لوكيل ذكي أن يحتفظ بنسخ احتياطية من نفسه في أماكن أخرى ويستعيد نشاطه عند عودة الأنظمة إلى العمل.
وعلى الرغم من هذه المخاطر، يرى تشيزانا أن المستقبل لا يتجه بالضرورة نحو كارثة.
وقال إن السيناريو الأكثر تفاؤلا يتمثل في عالم يشهد خلال العقود المقبلة تقدما كبيرا في علاج الأمراض وإطالة متوسط العمر ومعالجة تغير المناخ، إلى جانب تقليص العمل المرهق وإتاحة مساحة أكبر للإبداع والمجتمع.
وشدد على ضرورة الحفاظ على الدور البشري في توجيه التكنولوجيا، داعيا إلى عدم التعامل مع الذكاء الاصطناعي باعتباره بديلا كاملا عن التفكير البشري.
مخاطر الذكاء الاصطناعي
وقال تشيزانا إنه يعلّم أبناءه وطلابه استخدام التكنولوجيا مع التشكيك في نتائجها وتحديها، محذرا من أن الاعتماد على الاختصارات التي توفرها أنظمة الذكاء الاصطناعي قد يأتي على حساب بعض القدرات الذهنية.
وأضاف أنه يتبع شخصيا قواعد عدة، بينها أداء بعض المهام بنفسه ومقارنة نتائج أكثر من نموذج والتحقق من المعلومات والمخرجات، وطلب شرح العمليات المعقدة بطريقة مبسطة قبل الاعتماد عليها.
وشدد تشيزانا على أن مستقبل الذكاء الاصطناعي سيتحدد وفق قدرة البشر على توجيه هذه التكنولوجيا، لا السماح لها بأن تتولى توجيههم، معتبرا أن الاختيار بين "الكارثة والنعيم" لا يزال في أيدي البشر.
(ترجمات)