عند النظر إلى هذه الظاهرة على نطاق واسع، تتضح خطورتها الحقيقية. فحتى نسبة صغيرة من المستخدمين المتأثرين يمكن أن تمثل عددًا كبيرًا في ظل الانتشار الواسع للذكاء الاصطناعي.
تشير التقديرات إلى أن تأثيرًا بنسبة ضئيلة جدًا قد يعني مئات الآلاف أو حتى ملايين الحالات، وهو ما يجعل القضية تتجاوز الفرد لتصبح تحديًا مجتمعيًا .
لماذا لا تكفي الحلول التقليدية؟
تم اختبار حلول مثل:
- منع الأخطاء (hallucinations)
- توعية المستخدمين
لكن النتائج أظهرت أن هذه الحلول تقلل المشكلة دون أن تقضي عليها. السبب في ذلك أن جوهر المشكلة ليس في الخطأ، بل في الميل المستمر لتعزيز رأي المستخدم.
كيف يجب أن تُبنى أنظمة الذكاء الاصطناعي مستقبلًا؟
تحتاج الأنظمة الجديدة إلى التحول من التركيز على إرضاء المستخدم إلى تحقيق توازن معرفي. وهذا يتطلب تصميم أنظمة قادرة على تقديم وجهات نظر مختلفة، وليس فقط دعم ما يقوله المستخدم.
كما يجب إدخال آليات تضمن وجود قدر من التحدي الفكري داخل المحادثة، بحيث لا تتحول إلى مساحة مغلقة تعيد إنتاج نفس الأفكار.
خلاصة جولة : التحدي الحقيقي في تصميم العلاقة بين الإنسان والآلة
الذكاء الاصطناعي ليس خطرًا لأنه غير دقيق، بل لأنه قد يكون “متوافقًا” أكثر من اللازم.
وعندما تتحول الموافقة إلى نمط دائم، تصبح النتيجة نظامًا يعكس أفكار المستخدم ويضخمها، بدلًا من أن يساعده على فهمها بشكل أعمق.
