"جيميناي" يفشل في كسب ود القاصرين.. و"غوغل" تكشف السبب

كشفت شركة غوغل الأسبوع الماضي لأول مرة عن تفاصيل تصميم روبوتها للدردشة "جيميناي" المدعوم بالذكاء الاصطناعي، والذي يمنعه من التصرف كرفيق أو ادعاء أنه إنسان عند التفاعل مع القاصرين.

وقد نُشرت هذه المعلومات في مدونة الشركة، ضمن تغييرات تهدف إلى تحسين دعم الصحة النفسية لمستخدمي "جيميناي".

وقالت "غوغل" إن "جيميناي" مزود بـ"ضوابط للشخصية" عند التفاعل مع المستخدمين دون سن 18 عامًا، وهي قيود تهدف إلى منع التعلق العاطفي وتجنب "اللغة التي تُحاكي الحميمية أو تُعبّر عن احتياجات"، بحسب تقرير لموقع "ماشابل" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

وتهدف إجراءات الحماية الأخرى إلى ردع روبوت الدردشة عن التنمر وأنواع المضايقات الأخرى.

وقالت "غوغل" في منشور على مدونتها: "تستمر جهودنا في مجال السلامة بالتطور وتعكس التزامنا الدائم بخلق بيئة رقمية صحية وإيجابية، حيث يمكن للشباب الاستكشاف والتعلم بثقة".

جاء كشف "غوغل" هذا بالتزامن مع إعلانها عن تحديث "جيميناي" لتبسيط الوصول إلى الموارد المتاحة للمستخدمين الذين قد يحتاجون الوصول إلى خدمات الصحة النفسية أو يبحثون عنها.

وسيقدم نظام جديد بواجهة "بنقرة واحدة" للمستخدمين روابط متنوعة للتواصل مع موارد خطوط الأزمات، بما في ذلك عبر الدردشة أو الاتصال الهاتفي أو الرسائل النصية.

وفي مارس، رفعت عائلة رجل بالغ دعوى قضائية ضد "غوغل" وشركتها الأم "ألفابت"، مدعيةً أنه أنهى حياته بناءً على توجيهات من "جيميناي".


وقالت "غوغل"، في بيان آنذاك: "صُمم جيميناي بحيث لا يشجع على العنف في العالم الحقيقي أو يوحي بإيذاء النفس"، مضيفة: "عادةً ما تؤدي نماذجنا أداءً جيدًا في هذا النوع من المحادثات الصعبة، ونخصص موارد كبيرة لذلك، لكن للأسف نماذج الذكاء الاصطناعي ليست مثالية".