قد تفترض أنه نظرًا لأن الحواسيب لا تمتلك المشاعر فإنها تختار وفقا لقواعد صارمة بعيدًا عن الإنحياز والعنصرية. ومع ذلك، تُعتبر الحواسيب أداة أساسية وتفعل ما يقوله الأشخاص الذين برمجوها، ونتيجة لذلك، أحيانًا ربما عن طريق الصدفة، يمكن للمطورين إثارة إنحيازهم.
في دراسة حديثة أجرتها الحكومة الأمريكية، فقد وجدت أنه عندما يتعلق الأمر بأنظمة التعرف على الوجه، فإنها تميل إلى أن تكون متحيزة ضد الأشخاص بناءً على اللون والجنس، حيث تسيء التعرف على الأشخاص من اللون أكثر من الأشخاص البيض.
على سبيل المثال، وجدت الدراسة أن تقنية التعرف على الوجه من مايكروسوفت يعاني أيضًا من نفس المشكلة. وقالت مايكروسوفت منذ ذلك الحين أنها تراجع التقرير، ونأمل أن تقوم بتعديل نظام التعرف على الوجوه الخاص به لمعالجة كافة المشاكل. ليست هذه هي المرة الأولى التي يتم فيها إتهام التكنولوجيا بالتحيز. على سبيل المثال، منذ فترة، إتضح أن الخوارزمية المستخدمة في بطاقة Apple Card تقدم للرجال حد إئتمان أعلى مقارنة بالمرأة.
في دراسة حديثة أجرتها الحكومة الأمريكية، فقد وجدت أنه عندما يتعلق الأمر بأنظمة التعرف على الوجه، فإنها تميل إلى أن تكون متحيزة ضد الأشخاص بناءً على اللون والجنس، حيث تسيء التعرف على الأشخاص من اللون أكثر من الأشخاص البيض.
على سبيل المثال، وجدت الدراسة أن تقنية التعرف على الوجه من مايكروسوفت يعاني أيضًا من نفس المشكلة. وقالت مايكروسوفت منذ ذلك الحين أنها تراجع التقرير، ونأمل أن تقوم بتعديل نظام التعرف على الوجوه الخاص به لمعالجة كافة المشاكل. ليست هذه هي المرة الأولى التي يتم فيها إتهام التكنولوجيا بالتحيز. على سبيل المثال، منذ فترة، إتضح أن الخوارزمية المستخدمة في بطاقة Apple Card تقدم للرجال حد إئتمان أعلى مقارنة بالمرأة.
