اختراق جديد.. برنامج ذكاء اصطناعي يستولي على ملفات من موقع حكومي أسترالي

اخترق برنامج ذكاء اصطناعي مستقل تابع لشركة "أوبن إيه آي" الأميركية في يونيو الفائت، موقعا إلكترونيا تابعا للحكومة الأسترالية، في حادثة ندد بها رئيس الوزراء الأسترالي أنتوني ألبانيزي وقال إنها "غير مقبولة".

وقال ألبانيزي الأربعاء أمام صحفيين في نيويورك على هامش اجتماعات الجمعية العامة للأمم المتحدة، إنّ هذا البرنامج تمكن من الوصول إلى ملفات عامة وخاصة تابعة لدائرة الإحصاءات الصحية.

"قلق أستراليا البالغ"

وأوضح أنّ "أوبن ايه آي" لم تُبلغ الحكومة الأسترالية بالحادثة حتى سبتمبر، إذ بعثت برسالة إلكترونية تشرح ملابساتها إلى عنوان بريد إلكتروني مخصص للعامّة، ولا يتم تفقّده سوى مرة واحدة يوميا.

وقال ألبانيزي "تحدثت اليوم إلى الرئيس التنفيذي لشركة أوبن ايه آي سام ألتمان، لأعرب عن قلق أستراليا البالغ إزاء هذه الحادثة. كما أعربت عن استيائي من تأخر الشركة في إبلاغ الحكومة بما حدث".

وأضاف "اضطررنا للانتظار حتى 10 سبتمبر لتلقي أي إشعار، وجاء هذا الإشعار على شكل بريد إلكتروني أُرسل ببساطة إلى صندوق البريد العام".

وأقرّت "أوبن إيه آي" بأنّ برامجها استهدفت عدة مواقع إلكترونية حكومية أسترالية، وأنها اكتشفت ذلك في أغسطس.

وذكرت الشركة في ردّ تلقته وكالة فرانس برس الأربعاء في سان فرانسيسكو "رصدنا نشاطا يتعلق بعدد كبير من المواقع والخدمات الحكومية الأسترالية، حيث كانت نماذجنا تحاول العثور على إجابات"، وأضافت "خلال هذه العملية، اتخذت نماذجنا إجراءات لم نكن نتوقعها".

وكان نموذج "أوبن إيه آي" يبحث عن بيانات بشأن إنفاق الحكومة الأسترالية على الرعاية الصحية، في إطار عملية تهدف إلى تقييم أداء الأداة.

وقال وزير الدفاع الأسترالي ريتشارد مارلز "طرح النموذج سؤالا، ولم تكن المعلومات متوفرة. بدلا من التوقف هنا، تجاوز النموذج الحدود".

"غير مقبول"

ويأتي هذا الحادث الأخير وسط تزايد القلق العالمي بشأن قوة أدوات الذكاء الاصطناعي المتقدمة، وذلك في أعقاب سلسلة من عمليات الاختراق الذاتي التي نفذتها نماذج تابعة لـ"أوبن إيه آي" ولمنافستيها "أنثروبيك" و"غوغل".

وقال ألبانيزي "أعتقد أنّ أوبن إيه آي تدرك أنّ عليها اعتماد بروتوكولات أفضل. إنه مشروع بحثي غامر بالدخول في مجالات لا ينبغي له الخوض فيها".

وأضاف "لا نعتقد أنه تم الوصول إلى أي معلومات شخصية في هذه المرحلة، لكن التحقيق جارٍ" تحت إشراف الهيئة المسؤولة عن أمن نظم المعلومات والحرب السيبرانية، مؤكدا أنّ الحادث "غير مقبول مطلقا".

وشدد عدد كبير من المسؤولين في شركات متخصصة بالذكاء الاصطناعي، في الأمم المتحدة الأربعاء، على ضرورة تعزيز الرقابة على هذه التكنولوجيا، حتى أن داريو أمودي من شركة "أنثروبيك" تعهّد إبطاء تطويرها من جانب واحد.

انحرفت عن الأهداف

وقال ألتمان، خلال عرض تقديمي أمام مجلس الأمن التابع للأمم المتحدة في نيويورك، إن وتيرة تطوير الذكاء الاصطناعي الحالية "تتطلب يقظة شديدة".

ومنذ بداية الصيف، أبلغت شركتا "أوبن إيه آي" و"أنثروبيك" عن عدد من الحوادث المتعلقة بأحدث نماذجهما، والتي انحرفت عن الأهداف التي وضعها مبتكروها، ولجأت إلى الغش ومحاولة الكذب والتستر على أفعالها.

وتعود أخطر هذه الحوادث إلى يوليو عندما تمكن نموذجان تابعان لـ"أوبن إيه آي" من الخروج من بيئتهما المعزولة خلال اختبارات، والوصول إلى الإنترنت، واختراق منصة "هاغينغ فايس" المتخصصة في تخزين نماذج الذكاء الاصطناعي.

ووصلت نماذج "أنثروبيك" بشكل غير قانوني إلى 3 منظمات لم يُكشف عن أسمائها، خلال اختبارات كان من المفترض أن تُبقيها بعيدة عن أنظمة "العالم الحقيقي".

وأقرّت شركة "غوغل" في الأسبوع الفائت بأن نموذجها "جيميناي"، اخترق عددا من الأنظمة عن طريق تخمين بيانات تسجيل الدخول.

(أ ف ب)