أرسل رومبا صورًا غازية للمتطوعين إلى الملصقات

رومبا المكانس الكهربائية المجمعة الصور الحساسة مثل إحدى الصور التي تظهر امرأة جالسة على مقعد المرحاض ، وبحسب ما ورد تمت مشاركتها بين الأشخاص المكلفين بتدريب الروبوتية نظام التنظيف. هذا هو الجزء المثير للقلق. خصصت أمازون 1.7 مليار دولار في أغسطس 2022 لشراء iRobot. الآن ، سجل Amazon مع الخصوصية سطحي إلى حد ما من تلقاء نفسه. كشف تحقيقان على السطح منذ أكثر من عام عن ذلك تتعامل Amazon مع بيانات العملاء الحساسة بطريقة غير مسؤولة إلى حد ما.

بحسب الوثائق التي اطلعت عليها استعراض تكنولوجيا معهد ماساتشوستس للتكنولوجيا، تمت مشاركة الصور التي التقطتها مكنسة Roomba الآلية بين المقاولين المكلفين بوضع العلامات عليها ، على Discord و Facebook ، من بين أماكن أخرى. تدعي iRobot أن الصور المسربة تم التقاطها باستخدام أجهزة الاختبار ، والتي وافق المتطوعون على المساهمة ببيانات سمعية بصرية لها. تم جمع بيانات التدريب هذه التي تم التقاطها بواسطة الكاميرات الموجودة على ظهر روبوت التنظيف بواسطة iRobot ثم تم إرسالها إلى شركة ناشئة تسمى Scale AI ، والتي توظف عمالًا متعاقدين لتصنيفهم للذكاء الاصطناعي يفهم.

احذر من منظف Robo الودي

عادةً ما يتم الاستعانة بمصادر خارجية لعملية إضافة البيانات التوضيحية للذكاء الاصطناعي إلى العمال ذوي الأجور المنخفضة في آسيا وأفريقيا من خلال المتعاقدين. والجدير بالذكر أن أياً من هذا لم يكن أجهزة من فئة المستهلك يتم بيعها تجاريًا. iRobot يقول ذلك بالسماح نشر وسائل الإعلام الحساسة، Scale AI انتهك سياسة الخصوصية الخاصة به ، وأن الشركتين قطعتا علاقاتهما المهنية في أعقاب الحادث. اعترف Scale AI أيضًا أن موظفي تصنيف البيانات قد انتهكوا قواعد السلوك الخاصة به.

تدعي الشركة التي ستصبح قريبًا أن تكون أمازون أيضًا أن هذه "روبوتات تطوير خاصة مع تعديلات على الأجهزة والبرامج"تأتي أيضًا مع اتفاقيات للمتطوعين ، والتي أخبرتهم صراحة أنه تم إرسال بياناتهم لأغراض التدريب. بالإضافة إلى ذلك ، تم نصحهم بتجنب الموضوعات الحساسة والأطفال المناطق التي تتحرك فيها الروبوتات لالتقاط الصور ومقاطع الفيديو ومقاطع الصوت. الأمر المثير للقلق هو أن 95 في المائة من بيانات iRobot يتم حصادها من منازل حقيقية ، حيث يكون معظم المتطوعين موظفين أو منازل مدفوعة الأجر يتم توظيفها بواسطة مقاولين. يتم جمع جزء صغير فقط من بيانات التدريب على الذكاء الاصطناعي من المنازل الاصطناعية التي تم إنشاؤها كنماذج في مجموعة اختبار.

الصور المسربة منها استعراض تكنولوجيا معهد ماساتشوستس للتكنولوجيا المنشار 15 ، تم جمعها في عام 2020 من منازل مقرها في الولايات المتحدة واليابان وفرنسا وألمانيا من بين دول أخرى. تدعي iRobot أن جميع معلومات التعريف الخاصة بشخص ما تتم إزالتها من بيانات التدريب. يقوم تلقائيًا بحذف السجل بالكامل إذا كان أي من ملفات تبدو الصور حساسة بطبيعتها، مثل تلك التي تصور اللحظات الخاصة أو أي حالة من حالات العُري. ومع ذلك ، ليس من الواضح ما إذا كانت هذه الصور يتم حذفها تلقائيًا ، أو إذا رآها مشرف بشري أولاً ثم قرر اتخاذ الإجراء اللازم.

من الأمور المثيرة للقلق إلى حد ما من ملحمة iRobot أن هذه التسريبات حدثت أثناء مرحلة اختبار روبوت تنظيف قيد التطوير حيث يتم إخبار المتطوعين بما سيصلون إليه. للأجهزة المتاحة تجاريًا مثل رومبا، فإن غالبية الأشخاص لا يزعجهم حتى قراءة مصطلحات جمع البيانات بالتفصيل وقد ينتهي بهم الأمر عن غير قصد تسليم عدد كبير من بيانات التعريف الشخصية للشركات ذات الإجراءات المتساهلة لأمن البيانات.

مصدر: استعراض تكنولوجيا معهد ماساتشوستس للتكنولوجيا