كيف تسلط صورة "أوباما الأبيض" الضوء على التحيز العنصري لمنظمة العفو الدولية

ان منظمة العفو الدولية تم العثور على خوارزمية لتوليد صور غير منقوصة من الصور المنقطة لتوليد وجه أبيض من صورة منقطة لباراك أوباما. هذه ليست مفاجأة بالنظر إلى المناقشات الجارية حول التحيز العنصري لأدوات التعرف على الوجه بالذكاء الاصطناعي ، والأمثلة الموجودة سابقًا في الحلول الأخرى. مثل هذا التحيز في الذكاء الاصطناعي هو مصدر قلق كبير لأنه يعتبر على نطاق واسع تقنية قادرة على تغيير العديد من جوانب المجتمع

تثير حركة Black Lives Matter تساؤلات حول العنصرية المنهجية في تطبيق القانون الحديث ، بما في ذلك التقنيات والأدوات التي تستخدمها الشرطة. بعض الأمثلة على كيفية التحيز العنصري بها تقنيات الذكاء الاصطناعي الموظفون من قبل أقسام الشرطة يمكن أن يظهر في التعرف على المشتبه بهم والتنبؤ بالأحياء "المعرضة للخطر" باستخدام البيانات التي تم جمعها مسبقًا. لقد كان هذا مصدر قلق بين الباحثين والناشطين لبعض الوقت مع الفهم العام يمكن أن تؤثر أدوات الذكاء الاصطناعي بشكل غير متناسب الأقليات ، ويرجع ذلك أساسًا إلى مجموعات البيانات المعيبة التي تم استخدامها لتدريبهم. في الآونة الأخيرة ، أدى ذلك إلى قيام عدد من الشركات بتطوير وبيع هذه التقنيات إلى سلطات إنفاذ القانون لإعادة التفكير في موقفها الحالي. في حالة أمازون ، أكدت الشركة مؤخرًا ذلك

فرض حظر لمدة عام على استخدام حل التعرف على الوجه.

في الآونة الأخيرة ، أنتجت خوارزمية التعلم الآلي المسماة PULSE وجهًا أبيض من صورة منقطة لباراك أوباما. نظرًا لكون أوباما أحد أشهر السود في العالم ، فإن ذلك يعد تذكيرًا بالتحيز العنصري الذي يمكن رؤيته في أدوات التصوير بالذكاء الاصطناعي. تم الإبلاغ عن المشكلة على Twitter ، من قبل المبرمجين الذين اختبروا PULSE بعد تنزيله الكود المنشور من جيثب. كما الحافة ذكرت ، لم يتم تصميم الخوارزمية لتحديد صورة الإدخال المنقطة بشكل صحيح ، ولكن لإنتاج وجه اصطناعي جديد يشبه الصورة المنقطة. ومع ذلك ، يبدو أنه يظهر تحيزًا خطيرًا عندما يتعلق الأمر بالوجوه غير البيضاء. تولد الخوارزمية أيضًا وجوهًا بسمات قوقازية عندما تكون المدخلات عبارة عن صورة منقطة لعضوة الكونغرس ألكسندرا أوكاسيو كورتيز ، وكذلك الممثلة لوسي ليو.

كيف يعمل PULSE ومن أين يأتي التحيز

تم تطوير PULSE من قبل باحثين من جامعة Duke باستخدام خوارزمية StyleGAN ، التي أنشأها علماء الكمبيوتر NVIDIA. لقد تم استخدامه لبناء مواقع الويب التي تتطلع إلى الإنشاء وجوه بشرية واقعية المظهر. استخدم الباحثون StyleGAN لترقية البيانات المرئية ، أي لملء البيانات المفقودة في ملف إدخال وجه منقسم وتخيل وجهًا جديدًا عالي الدقة يشبه صورة الإدخال عندما منقطة.

بعد التحيز العنصري تم الإبلاغ عن المشكلة ، أكد المبدعون الأصليون المشكلة وأوضحوا أنه على الرغم من عدم تأكدهم من ذلك ، فمن المرجح أنه عيب موروث من مجموعات البيانات التي تم استخدامها لتدريب StyleGAN. لقد أضافوا أيضًا قسمًا جديدًا إلى ملفات ورقة منشورة حول التحيز العنصري للخوارزمية والطرق المختلفة التي يمكن أن تكون قد نشأت بها. هذه خطوة مشجعة ، لأن العثور على نقاط ضعف التكنولوجيا والإبلاغ عنها على مستوى البحث يمكن أن يقطع شوطًا طويلاً للمساعدة في تطوير الأدوات العملية.

ومع ذلك ، فإن الحادث هو تذكير بكيفية تسلل التحيز إلى التقنيات المبنية باستخدام البيانات التي تم جمعها على مدار سنوات. حيث البيانات الكبيرة ستكون حاسمة في تشكيل المستقبل ، من الأهمية بمكان أن يتم اتخاذ الخطوات اللازمة لضمان أي تمييز الواردة في مجموعة بيانات الذكاء الاصطناعي لا تُترجم إلى تحيز خطير في تقنية تم إنشاؤها باستخدام البيانات.

مصدر: الحافة, جيثب

فيلم مجهول: لماذا يختبئ سام شقيق دريك في المقطع الدعائي؟

نبذة عن الكاتب