רומבה שלח תמונות פולשניות של מתנדבים למתייגים

רומבה שואבי אבק נאספו תמונות רגישות כמו אחד המראה אישה יושבת על מושב אסלה, ולפי הדיווחים הם חולקו בין אנשים שהוטלו עליהם להכשיר את רובוטי מערכת ניקוי. הנה החלק הנוגע. אמזון הוציאה 1.7 מיליארד דולר באוגוסט 2022 לרכישת iRobot. כעת, הרקורד של אמזון עם פרטיות הוא די מעורפל בפני עצמו. כמה חקירות שעלו לפני קצת יותר משנה גילו את זה אמזון מטפלת בנתוני לקוחות רגישים בצורה די חסרת אחריות.

על פי מסמכים שראו סקירת טכנולוגיה של MIT, תמונות שצולמו על ידי שואבי האבק הרובוטיים של Roomba שותפו בין קבלנים שהופקדו על תיוגם, בין היתר בדיסקורד ובפייסבוק. iRobot טוען כי התמונות שהודלפו נלכדו באמצעות חומרת בדיקה, עבורה הסכימו המתנדבים לתרום נתונים אורקוליים. נתוני האימון שנלכדו על ידי המצלמות המובנות של רובוט הניקוי נאספו על ידי iRobot ולאחר מכן נשלח לסטארט-אפ בשם Scale AI, שמעסיק עובדי קבלן כדי לתייג אותם ל-AI מבין.

היזהר מ-Robo Cleaner הידידותי שלך

תהליך הערת הנתונים עבור AI מועבר בדרך כלל לעובדים בשכר נמוך באסיה ובאפריקה באמצעות קבלנים. יש לציין שכל זה לא היה חומרה ברמת הצרכן הנמכרת באופן מסחרי. iRobot אומר זאת בכך שהוא מאפשר

הפצת אמצעי תקשורת רגישים, Scale AI הפרה את מדיניות הפרטיות שלה, וכי שתי החברות מנתקות את קשריהן המקצועיים בעקבות התקרית. Scale AI גם הודתה שעובדי תיוג הנתונים שלה שברו את קוד ההתנהגות שלה.

גם חברת אמזון שתהיה בקרוב טוענת כי אלה "רובוטי פיתוח מיוחדים עם שינויים בחומרה ובתוכנה” מגיעים גם עם הסכמים למתנדבים, שאמרו להם במפורש שהנתונים שלהם נשלחים למטרות הדרכה. בנוסף, הומלץ להם להימנע מנבדקים רגישים וילדים אזורים שבהם הרובוטים מסתובבים לצילום תמונות, סרטונים וקטעי אודיו. מה שמדאיג הוא ש-95 אחוז מהנתונים של iRobot נקצרים מבתים אמיתיים, כאשר רוב המתנדבים הם עובדים או בתים בתשלום שגויסו על ידי קבלנים. רק חלק קטן מנתוני אימון בינה מלאכותית נאספים מבתים מלאכותיים שנוצרו כמודלים במערך מבחן.

התמונות שדלפו, מהן סקירת טכנולוגיה של MIT ראו 15, נאספו בשנת 2020 מבתים המבוססים בארצות הברית, יפן, צרפת וגרמניה, בין היתר. iRobot טוענת שכל המידע המזהה על אדם מוסר מנתוני האימון. זה מוחק אוטומטית את כל היומן אם אחד מה נראה שהתמונות רגישות באופיים, כגון אלה המתארים רגעים פרטיים או כל מצב של עירום. עם זאת, לא ברור אם תמונות כאלה נמחקות אוטומטית, או אם מנחה אנושי רואה אותן קודם ואז מחליט לנקוט בפעולה הנדרשת.

דבר מדאיג למדי מסאגת iRobot הוא שהדליפות הללו התרחשו במהלך שלב הניסוי של רובוט ניקוי בפיתוח שבו אומרים למתנדבים למה הם נכנסים. עבור מכשירים זמינים מסחרית כמו רומבה, רוב האנשים אפילו לא טורחים לקרוא את תנאי איסוף הנתונים בפירוט ועשויים להיגמר בלי משים מסירת המון נתונים אישיים מזהים לתאגידים עם אמצעי אבטחת מידע רופפים.

מָקוֹר: סקירת טכנולוגיה של MIT