دراسة: روبوتات الدردشة بالذكاء الاصطناعي تكون انطباعات عن المستخدمين

كشفت دراسة حديثة عن جانب مقلق في تطور تقنيات الذكاء الاصطناعي، يتمثل في قدرة روبوتات الدردشة على تكوين انطباعات عن المستخدمين، قد تؤثر لاحقًا على قرارات حساسة مثل التوظيف أو الخدمات المالية.

وبحسب بحث صادر عن الجامعة العبرية في القدس، فإن نماذج اللغة الكبيرة لا تكتفي بتحليل طلبات المستخدمين، بل تقوم بتقييمهم نفسيًا، من خلال تصنيف سماتهم مثل الكفاءة والنزاهة وحسن النية.

كيف تحكم الخوارزميات على المستخدمين؟​

وأوضحت الدراسة أن هذه الأنظمة تعتمد على تحليل إشارات محددة داخل النصوص، لكنها لا تتعامل مع الشخص ككل، بل تفككه إلى عناصر منفصلة، يتم تقييم كل منها بشكل مستقل، ما يؤدي إلى أحكام آلية تفتقر إلى الفهم الإنساني الشامل.

وفي تجارب محاكاة شملت سيناريوهات مثل الإقراض أو اختيار جليسة أطفال، لم تعتمد الأنظمة فقط على البيانات الموضوعية، بل كوّنت تصورًا عن الثقة في المستخدمين، بناءً على تحليل نمطي قد لا يعكس الواقع بدقة.

تحيزات مقلقة ونتائج غير متسقة​

وأظهرت النتائج وجود تحيزات واضحة في قرارات الذكاء الاصطناعي، حيث تأثرت التقييمات بعوامل مثل العمر والدين والجنس، حتى عند تساوي باقي المعلومات، وهو ما يثير تساؤلات حول عدالة هذه الأنظمة.

كما لفتت الدراسة إلى أن الأحكام تختلف من نموذج إلى آخر، ما يعني غياب معيار موحد، إذ يمكن لنظام معين أن يمنح تقييمًا إيجابيًا لشخص، بينما يراه نظام آخر بشكل سلبي تمامًا.

تداعيات على الحياة اليومية​

وتحذر الدراسة من أن هذا النوع من "التقييم الخفي" قد يخلق نوعًا جديدًا من القلق الرقمي، حيث قد يضطر المستخدمون إلى تعديل سلوكهم أو طريقة تفاعلهم مع الأنظمة الذكية للحصول على نتائج أفضل.

وفي ظل التوسع المتزايد لاعتماد الذكاء الاصطناعي في مجالات حيوية، تؤكد الدراسة ضرورة تعزيز الشفافية وفهم آليات اتخاذ القرار داخل هذه الأنظمة، لتجنب تأثيرات سلبية غير متوقعة على سمعة الأفراد أو فرصهم المستقبلية.


وتخلص النتائج إلى أن الهدف من الذكاء الاصطناعي يجب أن يظل تحسين حياة المستخدمين، لا إضافة طبقة جديدة من التقييمات غير المرئية التي قد تؤثر عليهم دون علمهم.