"إنفيديا" تطلق منصة لمراقبة وكلاء الذكاء الاصطناعي

كشفت شركة "إنفيديا" الأميركية عن منصة أمنية جديدة تهدف إلى تعزيز سلامة وكلاء الذكاء الاصطناعي والحيلولة دون تجاوزهم الحدود والصلاحيات الممنوحة لهم.

وأفادت الشركة بأن منصة "أوبن إيجنت سيفتي" (Open Agent Safety Platform) تشمل برمجية "أوبن شيل" (OpenShell) مفتوحة المصدر، التي تُمكّن المطورين من وضع حدود آمنة لعمل الوكلاء والتحقق من التزامهم بها، فضلاً عن نظام "سينتري" (Sentry) للمراقبة الأمنية المستقلة.

وأضافت أن نظام "سينتري" يراقب نشاط وكلاء الذكاء الاصطناعي بصورة مستمرة، ويستطيع عزل الوكيل وإيقافه خلال أجزاء من الثانية عند محاولته تجاوز الحدود المحددة له، بحسب وكالة أنباء الإمارات الرسمية (وام).