حذر الرئيس التنفيذي لشركة "مايكروسوفت"ساتيا ناديلا، من منح أنظمة الذكاء الاصطناعي إمكانية الوصول إلى بيانات حساسة واتخاذ إجراءات بالغة الأهمية من دون ضوابط خارجية مستقلة.
وطالب بالتريث وإعادة تقييم البنية التي تقوم عليها الثقة في أنظمة الذكاء الاصطناعي المتقدمة، محذراً من منح هذه الأنظمة معلومات من دون قيود.
وقال في منشور على منصة "إكس"، إن الأنظمة البرمجية التقليدية كانت تتيح تتبع سلوكها إلى مسارات محددة في الشيفرة، بينما يصعب في نماذج الذكاء الاصطناعي الحالية ربط السلوك والمخرجات ببيانات تدريب بعينها أو بتكوينات محددة للأوزان.
وأضاف: "حان الوقت للتريث وتقييم بنية الثقة لهذا العصر الجديد"، مضيفا "لا يمكن إسناد المسؤولية عن تصرفات الذكاء الاصطناعي إلى مزودي النماذج، أو التعامل مع الأنظمة فائقة الذكاء باعتبارها "صناديق سوداء" وقبول نتائجها.
مقترح رئيس مايكروسوفت للتعامل مع الذكاء الاصطناعي
وطالب بضرورة فصل "توفير الذكاء" عن "سلطة اتخاذ القرار"، عبر إحاطة النماذج غير الحتمية بأنظمة حتمية وضوابط بشرية وإجراءات تشغيل موثوقة، إلى جانب وضع معايير صناعية جديدة حين لا تكون القواعد الحالية كافية.
واقترح التعامل مع النماذج المتقدمة، سواء المغلقة أو مفتوحة الأوزان، بالطريقة نفسها التي تتعامل بها المؤسسات مع المخاطر الداخلية؛ ليس باعتبارها خبيثة بالضرورة، وإنما لأن أي طرف يمتلك قدرات واسعة وصلاحية الوصول إلى أنظمة مهمة يمكن أن يخطئ أو يتعرض للاختراق.
قال إن الشركات يمكنها الاستفادة من ممارسات الأمن المؤسسي القائمة، مثل تحديد الهوية، وتقييد الصلاحيات، وتسجيل النشاط، ووضع حدود للاحتواء.
وشدد على أن شفافية سلسلة استدلال النماذج يجب أن تكون مطلباً أساسياً، لكنه حذر من أنها لا تكفي بمفردها، إذ لا تزال مخرجات النماذج غير قابلة دائماً للتفسير أو التحقق بصورة موثوقة.
