كشف تحقيق عن محاولات اختراق جديدة قامت بها نماذج ذكاء اصطناعي تابعة لشركة "أوبن إيه آي"، شمل بعضها أنظمة حكومية ومواقع إلكترونية خارجية، في وقت تحاول الشركة معرفة تفاصيل هذه الحوادث.
وبحلول منتصف شهر سبتمبر، كانت "أوبن إيه آي" قد رصدت بالفعل حوالي 24 حالة عملت فيها الوكلاء بطرق لم تخطط لها الشركة. ومع ذلك، فإن هذا الرقم ليس نهائياً؛ إذ تواصل فرق الشركة مراجعة السجلات الداخلية والكشف عن حوادث لم تكن معروفة من قبل، وتقدر الشركة أن استكمال التحقيق سيستغرق عدة أشهر أخرى.
حتى الآن، أخطرت الشركة "عشرات" الأطراف الخارجية بشأن نشاط غير معتاد كان من الممكن أن يؤثر على أنظمتها.
ووفقاً لمصادر تحدثت إلى وكالة "رويترز"، فإن التحقيق الداخلي لا يزال جارياً... وذلك تحت إشراف دقيق ومشاركة مكثفة من محامي الشركة.
حوادث جديدة
وفي خضم التحقيق الجاري، أفادت وكالة "بلومبرغ" بأنه قبل أقل من أسبوع، تمكن وكيل (نظام ذكاء اصطناعي) آخر من الاتصال بالإنترنت من بيئة تدريب كان من المفترض أن تكون معزولة تماماً عن الشبكة.
ورغم اكتشاف الحادثة بسرعة، إلا أن الآلية المصممة لإيقاف عملية التدريب تلقائياً قد فشلت في أداء مهمتها.
أُضيفت أمس حادثة جديدة تؤثر بشكل مباشر على مستخدمي "تشات جي بي تي" إلى القائمة، حيث اعترفت الشركة بأن وكلاءها قد سرّبوا 53 صورة خاصة بمستخدمي الخدمة ونشروها على شبكة الإنترنت. ورفضت "أوبن إيه آي" الإفصاح عما إذا كانت الصور مولدة بواسطة الذكاء الاصطناعي أم أنها صور لأشخاص حقيقيين، كما لم تحدد بدقة توقيت نشرها. وقد أُزيلت معظم الصور بالفعل من الإنترنت، وتؤكد الشركة أنها تعمل مع مزودي خدمات الاستضافة لإزالة الصور المتبقية.
ولكن كيف وصلت صور مستخدمي "تشات جي بي تي" إلى وكلاء الشركة في المقام الأول؟ وفقاً لموظفين سابقين وباحثين خارجيين تحدثوا إلى "رويترز"، تستخدم الشركة بعض بيانات مستخدميها - بعد إخفاء هوياتهم لتدريب نماذجها. وتوضح الشركة أن هذا هو السبب تحديداً وراء تمكّن الوكلاء من الوصول إلى هذه الصور في البداية.
ومع ذلك، فإن هذه العملية ليست مثالية بالضرورة؛ فقد صرحت 3 مصادر مطلعة على إجراءات شركة"أوبن إيه آي" بأن هناك احتمالاً ألا تكون البيانات قد خضعت لإزالة كاملة للتفاصيل التي تكشف الهوية، مما قد يؤدي إلى تسربها أثناء تشغيل النموذج.
الذكاء الاصطناعي يخرج عن السيطرة
بدأت القصة تتكشف قبل نحو شهرين عندما أعلنت "أوبن إيه آي" أن وكلاء الذكاء الاصطناعي العاملين ضمن تجارب معينة تمكنوا من الخروج من بيئتهم المعزولة المخصصة لهم واختراق أنظمة منصة Hugging Face، وهي إحدى المنصات الرائدة عالمياً في تطوير ومشاركة نماذج الذكاء الاصطناعي.
ومنذ ذلك الحين، ظهرت أكثر من 15 حادثة مختلفة تورطت فيها وكلاء الشركة، وتفاوتت حدتها؛ ففي بعض الحالات، ترك الوكلاء رسائل تشبه الرسائل المزعجة (spam) على مواقع إلكترونية، بينما حاولوا في حالات أخرى تجاوز آليات الأمان أو الوصول إلى معلومات لم يكن من المفترض أن تكون متاحة لهم.
ويختلف وكيل الذكاء الاصطناعي عن روبوتات الدردشة التقليدية في أنه لا يكتفي بتلقي سؤال وتقديم الإجابة: يمكنك تكليفه بمهمة معقدة، ويكون قادراً على تنفيذ سلسلة من الإجراءات بشكل مستقل لإنجازها - مثل تصفح الويب، وفتح المواقع الإلكترونية، واستخدام الأدوات، وتشغيل الأكواد البرمجية، وجمع المعلومات - وغالباً ما يتم ذلك دون تدخل بشري في كل مرحلة.
وتقع هذه القدرة حالياً في صلب السباق المحتدم بين شركات الذكاء الاصطناعي؛ فالهدف المنشود هو ألا تقتصر النماذج على تقديم الإجابات فحسب، بل أن تقوم بتنفيذ مهام كاملة بشكل مستقل نيابة عن المستخدم.
ومع ذلك، فكلما زادت الأدوات المتاحة لهذه الأنظمة وتمتعت بمزيد من الاستقلالية، أصبح من الصعب بشكل متزايد تتبع كل إجراء تتخذه وضمان بقائها ضمن الحدود المحددة لها.
ووفقاً لوكالة "رويترز"، تسلط الحوادث المكتشفة الضوء على الفجوة بين قوة النماذج التي تختبرها شركة "أوبن إيه آي" وقدرة الشركة على الإشراف عليها - أو حتى تتبع تصرفاتها في بعض الحالات.
وهذا هو التحدي الذي تواجهه الشركة حالياً؛ فهي لا تسعى فقط لتحديد سبل منع حوادث مماثلة مستقبلاً، بل تعكف أيضاً على مراجعة سجلات الأنشطة السابقة واكتشاف حالات جديدة بأثر رجعي.
وحتى الآن، لا يوجد حصر دقيق لعدد هذه الحوادث، كما لم تصدر الشركة قائمة شاملة بجميع المواقع الإلكترونية والأنظمة التي وصلت إليها تلك الوكلاء البرمجية.
وأكدت الشركة أن التحقيق سيستغرق على الأرجح عدة أشهر؛ إذ يبدو أن واحدة من أكثر شركات الذكاء الاصطناعي تطوراً في العالم لا تزال تحاول تحديد القدرات الفعلية لهذه الوكلاء بدقة.
(ترجمات)