تنتشر على منصات التواصل الاجتماعي صفحات شهيرة تدار غالبا بواسطة شخص واحد، وتقدم محتوى يبدو متنوعا لكنه يعتمد على الصور النمطية ونشر نصائح مالية مضللة، قبل أن تقود المستخدمين إلى مواقع احتيالية يصعب التمييز بينها وبين المحتوى المولد بالذكاء الاصطناعي.
وظهرت شخصيات اصطناعية مثل "الحاخام غولدمان" و"عمر وايزمان"، ضمن حسابات لم يتجاوز إنشاؤها شهرا أو شهرين إلا أنهما تمكنا من جذب مئات الآلاف من المتابعين والترويج لعمليات احتيال مالية.
وبينما لا يزال من الممكن حاليا رصد مثل هذه الحسابات والتعرف عليها، فإن تطور جودة المحتوى المولد بالذكاء الاصطناعي واتساع انتشاره قد يجعل عملية الكشف أكثر تعقيدا، ما يستدعي أدوات توعية وتحليل أكثر تقدما لمواجهة هذا النوع من المحتوى.
وبينما تحقق هذه الصفحات انتشارا واسعا بفضل الخوارزميات، يحذر البعض من استمرار هذا النمط دون مساءلة، مؤكدين أن مواجهته ممكنة عبر أدوات تحليل لغوية وإحصائية إذا توفرت الإرادة الكافية.
وقال صانع المحتوى جيرمي كاراسكو المختص في "فرز فيديوهات الذكاء الاصطناعي": "صفحاتٌ شهيرةٌ جدًا تُناقش المواضيع نفسها، يديرها شخصٌ واحد. يستخدمون الصور النمطية العرقية المُعارضة لنشر نصائح مالية سيئة تنتشر بسرعة، ثم يُروّجون لمواقع احتيالية لا تبيع شيئًا لأشخاصٍ لا يستطيعون التمييز بين كونها مُولّدة بالذكاء الاصطناعي أو لا".
وأضاف: "يشعر المُحتالون بسعادةٍ غامرةٍ لذلك، لأنه لا توجد مُساءلة، فحتى مع مليون ونصف المليون أو 800 ألف مُتابع، لا تزال الخوارزميات تُروّج لهذه الاحتيالات".
وتابع: "أعلم أن الأمر يبدو واضحًا للبعض منكم الآن، لكن هذا ليس مضمونًا لفترةٍ طويلة. لذا، يُمكننا الآن، باستخدام اللغة والإحصاءات فقط، البحث عن هذه الصفحات، ثم يُمكننا التأكد من أنها مُولّدة بالذكاء الاصطناعي، ويُمكننا إيقافها إذا توفرت لدينا الإرادة".
