טוויטר שואפת לתקן את אלגוריתם חיתוך התמונות שלו עם תוכנית הבאג באונטי

טוויטר משיקה תוכנית פרס שמטרתה למצוא הטיית בינה מלאכותית ולעזור לתקן את האלגוריתמים שלה, ומציגה אותה כתוכנית הבאונטי הראשונה מסוגה בתעשייה. טוויטר ופלטפורמות מדיה חברתית אחרות אינן זרות לבעיית הטיית AI. מוקדם יותר השנה, טוויטר ביטלה את אלגוריתם חיתוך התמונות שלה לאחר שהתגלה כי הבינה המלאכותית שמאחוריה מציגה "יחס לא שוויוני המבוסס על הבדלים דמוגרפיים." משתמשים גילו שאלגוריתם החיתוך העדיף פנים עם גווני עור בהירים יותר והדגיש אותם בפריים, בעוד שפנים עם עור כהה נחתכו.

בהצגה בולטת של שקיפות, טוויטר שיתפה את הממצאים בניתוח מפורט לאחר ביצוע הערכה באמצעות 10,000 תמונות. עם זאת, טוויטר רחוקה מלהיות הפלטפורמה היחידה עם בעיות הטיית אלגוריתמים. כלי מעקב המונים הוכיחו את עצמם כלא מדויקים בכל הנוגע לטכנולוגיית זיהוי הפנים שבלבם, שכן מערך הנתונים שהם אומנו עליו הוא מוטה, ומכאן, הם להשפיע לרעה על מיעוטים. לפני קצת יותר משנה, נמצא כי אלגוריתם בינה מלאכותית ששימש ליצירת תמונות דה-פיקסלות מתמונות מטושטשות מייצר תמונות של אדם לבן מתוך תמונה מפוקסלת של ברק אובמה.

טוויטר, לאחר שטעם את ההשפעות השליליות של מערכת עם הטיה אלגוריתמית, הוא עכשיו

מיקור חוץ את העבודה של מציאת פגמים במערכת משלו באמצעות תוכנית באגים. זוהי גישה נפוצה לפתרון בעיות עם קלט מונע על ידי קהילה. ענקיות כמו אפל ומיקרוסופט שילמו מיליוני דולרים בתוכניות פרס באג עד כה, וממשיכות להציע תשלום משתלם כדי לזהות פגיעויות חמורות במערכות שלהן. עם זאת, מה שמבדיל בין היוזמה של טוויטר הוא שזוהי תוכנית הבאונטי באגים הראשונה מסוגה שמבצעת משימות חוקרים שמטפלים בסוגיית הטיה אלגוריתמית וזיהוי פגמים במערכת המונעת בינה מלאכותית של טוויטר נוצר.

טוויטר מהווה תקדים לפלטפורמות מדיה חברתית

במיוחד, אתגר ההטיה האלגוריתמית של טוויטר מכסה את אלגוריתם הבולטות שלו - התוכנה שמאחורי חיתוך תמונה מערכת. המטרה היא לבקש עזרה ממומחים בלתי תלויים ולזהות היבטים מזיקים של אלגוריתם חיתוך התמונות מעבר למה שכבר תיעדה טוויטר. האתגר, שהוא חלק מכנס DEF CON AI Village של שנת 2021, נועד להתמודד עם מגוון רחב יותר של נושאים מהווים חלק מאתיקה של למידת מכונה בתעשייה, ומזהים ביחד הטיה אלגוריתמית על תחום גדול בהרבה סוּלָם. טוויטר תציע פרס של $3,500 כפרס העליון, ותקבל הגשות עד ה-6 באוגוסט 2021, דרך פורטל HackerOne. המשתתפים יתבקשו לבנות הערכה משלהם על סמך מודל הבולטות והקוד שפורסם בפומבי.

אמנם האתגר הוא צעד חיובי קדימה בכיוון הנכון, טוויטר יש עוד דרך ארוכה לעבור, וכך גם חברות מדיה חברתית אחרות. כזכור, גם פייסבוק הודיעה תוכניות לבחינת הטיה גזעית והגברת ההכללה של הפלטפורמה בשנה שעברה. עוד ב-2019, מחקר של קורנל גילה שציוצים של אנשים מהקהילה האפרו-אמריקאית נוטים הרבה יותר להיות מתויגים כדברי שטנה, מה שמציג הטיה גזעית שיטתית במקום. מחקר שנערך על ידי חוקרים מאוניברסיטת וושינגטון באותה שנה מצא גם מערכת דומה של בעיות בכלי מתוצרת גוגל.

מָקוֹר: טוויטר

שינוי השם של פייסבוק הוא ניסיון עצוב ונואש להערים עליך

על הסופר