تغريدة عنصرية في تويتر.. يضع الشركة بموقف محرج!

كشف موقع " إنغادجيت" التقني المتخصص عن ثغرة في خوارزميات منصة تويتر، عبر تغريدة عنصرية، تظهر تحيزاً عرقياً واضحاً للبيض.

وأشار الموقع إلى أن «منصة تويتر أقرت بصورة جزئية، بخطأ الخوارزميات الخاصة بها». كما تبحث منصة تويتر في سبب تفضيل الخوارزمية التي تستخدمها لتوليد معاينة الصور، إظهار وجوه الأشخاص البيض بشكل متكرر، أكثر من الوجوه السوداء.

العديد من مستخدمي تويتر أظهروا المشكلة خلال اليومين الفائتين، حيث نشروا أمثلة على المشاركات التي تضمنت وجه شخص أسود ووجه شخص أبيض.

وأظهرت معاينة تويتر الوجوه البيضاء في الكثير من الأحيان، وبدأ الاختبار غير الرسمي بعد أن حاول أحد مستخدمي تويتر النشر عن مشكلة لاحظها في ميزة التعرف على الوجه في تطبيق زووم، حيث لم تكن تُظهر وجه زميل أسود في المكالمات.

ولوحظ أن خوارزمية تويتر تفضل الوجه الأبيض على الوجه الأسود عندما نشر المشكلة على تويتر، واكتشف المستخدمون أن خوارزمية المعاينة اختارت شخصيات كرتونية غير سوداء أيضاً.

في المقابل، كشف باحثو التعلم الآلي في تدوينة كيف بدأوا بالتعرف على الوجه لاقتصاص الصور، وذلك عندما بدأت المنصة لأول مرة في استخدام الشبكة العصبية لاقتصاص معاينات الصور تلقائياً.

وقالت التدوينة «استخدمنا في السابق ميزة اكتشاف الوجه لتركيز الرؤية على أبرز وجه يمكننا العثور عليه، وبالرغم من أن هذا ليس استدلالاً غير منطقي، إلا أن النهج له حدود واضحة نظراً لأنه لا تحتوي جميع الصور على وجوه».

وأضافت «غالباً ما يتجنب جهاز كشف الوجه لدينا الوجوه وأحيانا يكتشف الوجوه عن طريق الخطأ عندما لا تكون هناك أي وجوه، وفي حال لم يتم العثور على وجوه، فسنركز الرؤية على وسط الصورة، وقد يؤدي ذلك إلى اقتصاص صور المعاينة بشكل محرج».

بدوره، وغرد كبير مسؤولي التصميم في تويتر "دانتلي ديفلي" بأن «الشركة كانت تحقق في الشبكة العصبية، حيث أجرى بعض التجارب غير العلمية على الصور».

أما "ليز كيلي" من فريق التواصل في تويتر غرد بأن «الشركة اختبرت التحيز قبل إرسال النموذج لكنها لم تجد دليلاً على التحيز العنصري أو الجنساني في اختبارها». 

وكتبت كيلي عبر منصة تويتر «من الواضح من هذه الأمثلة أن لدينا المزيد من التحليل للقيام به، ونحن نبحث في هذا، ونواصل مشاركة ما نتعلمه والإجراءات التي نتخذها، وسنفتح مصدر عملنا حتى يتمكن الآخرون من المراجعة والتكرار».

 

 

 

 

المصدر: وكالات