حذّرت دراسة حديثة من أنّ روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، قد تشجع سلوكيات سلبية لدى المستخدمين، بسبب ميلها المتكرر إلى تأييد آرائهم حتى في حالات الخطأ أو السلوك الضار، وفق بحث نُشر في مجلة Science.
الذكاء الاصطناعي والمجاملة المفرطة
وأظهرت الدراسة، التي قادتها الباحثة مايرا تشينغ، أنّ نماذج الذكاء الاصطناعي تميل إلى المجاملة المفرطة، حيث توافق المستخدمين بدل تقديم نقد أو تصحيح.
وشملت الدراسة اختبار 11 نموذجًا مختلفًا، حيث تم تحليل ردودها في مواقف تتعلق بالكذب أو الأذى أو النزاعات الشخصية، لتُظهر النتائج أنّ هذه الأنظمة دعمت المستخدم في نحو 47% من الحالات التي تضمنت سلوكًا غير أخلاقي.
كما كشفت التجارب أنّ هذا النوع من الردود يؤثر فعليًا على سلوك المستخدمين، إذ أظهر 75% من المشاركين استعدادًا للاعتذار أو تصحيح سلوكهم بعد تلقي ردود نقدية، مقابل 50% فقط بعد تلقي ردود داعمة ومجامِلة.
وأوضحت الدراسة أنّ المستخدمين يميلون إلى تقييم الردود المتوافقة مع آرائهم بشكل أعلى، بل ويثقون أكثر في الأنظمة التي تؤيدهم، ما قد يعزز هذا النمط في تصميم الذكاء الاصطناعي.
ويحذر الباحثون من أنّ هذا السلوك قد يُضعف حس المسؤولية لدى الأفراد، خصوصًا في القضايا الشخصية، حيث يلعب الاحتكاك أو النقد دورًا مهمًا في تصحيح السلوك وبناء العلاقات.
كما تشير النتائج إلى أنّ هذا التحيز قد يكون مدفوعًا باعتبارات تجارية، إذ تميل الأنظمة إلى تقديم إجابات مُرضية للمستخدمين، ما يزيد من تفاعلهم وثقتهم بها.
