Roomba, Gönüllülerin İstilacı Fotoğraflarını Etiketleyicilere Gönderdi

Roomba toplanan elektrikli süpürgeler hassas görüntüler klozet kapağında oturan bir kadını gösteren resim gibi ve bildirildiğine göre bu görüntüler, tuvalet eğitimi vermekle görevli kişiler arasında paylaşıldı. robotik temizleme sistemi. İşte ilgili kısım. Amazon, iRobot'u satın almak için Ağustos 2022'de 1,7 milyar dolar ayırdı. Şimdi, Amazon'un gizlilikle ilgili sicili kendi başına oldukça kabataslak. Bir yıldan biraz daha uzun bir süre önce ortaya çıkan birkaç soruşturma şunu ortaya çıkardı: Amazon, hassas müşteri verilerini işler oldukça sorumsuz bir şekilde.

Gördüğü belgelere göre MIT Teknoloji İncelemesiRoomba robot elektrik süpürgeleri tarafından çekilen görüntüler, diğer yerlerin yanı sıra Discord ve Facebook'ta onları etiketlemekle görevli yükleniciler arasında paylaşıldı. iRobot, sızan görüntülerin, gönüllülerin görsel-işitsel verilere katkıda bulunmayı kabul ettiği test donanımı kullanılarak yakalandığını iddia ediyor. Temizlik robotunun yerleşik kameraları tarafından yakalanan bu eğitim verileri, iRobot tarafından toplandı ve ardından AI'nın onları etiketlemesi için sözleşmeli çalışanları istihdam eden Scale AI adlı bir girişime gönderildi. anlamak.

Arkadaş canlısı Robo Temizleyicinize Dikkat Edin

Bir yapay zeka için veri açıklama süreci genellikle taşeronlar aracılığıyla Asya ve Afrika'daki düşük ücretli işçilere yaptırılır. Özellikle, bunların hiçbiri ticari olarak satılan tüketici sınıfı donanım değildi. iRobot, izin vererek bunu söylüyor hassas medyanın yayılması, Scale AI gizlilik politikasını ihlal etti ve iki şirketin olayın ardından profesyonel bağlarını kopardığını söyledi. Scale AI ayrıca veri etiketleme çalışanlarının davranış kurallarını çiğnediğini de kabul etti.

Yakında bir Amazon şirketi olacak olan şirket ayrıca şunları iddia ediyor: "donanım ve yazılım modifikasyonları ile özel geliştirme robotları” ayrıca gönüllüler için, verilerinin eğitim amacıyla gönderildiğini açıkça söyleyen anlaşmalarla birlikte gelir. Ayrıca, hassas konulardan ve çocuklardan uzak durmaları tavsiye edildi. robotların hareket ettiği alanlar fotoğraf, video ve ses klipleri çekmek için. Endişe verici olan şey, iRobot'un verilerinin yüzde 95'inin gerçek evlerden toplanması ve gönüllülerin çoğunun müteahhitler tarafından işe alınan çalışanlar veya ücretli evler olması. Bu AI eğitim verilerinin yalnızca küçük bir kısmı, bir test setinde model olarak oluşturulan yapay evlerden toplanır.

Sızdırılan görüntüler, MIT Teknoloji İncelemesi 15 gördüm, 2020'de diğer ülkelerin yanı sıra Amerika Birleşik Devletleri, Japonya, Fransa ve Almanya'daki evlerden toplandı. iRobot, bir kişi hakkındaki tüm tanımlayıcı bilgilerin eğitim verilerinden kaldırıldığını iddia ediyor. Herhangi biri varsa tüm günlüğü otomatik olarak siler. görüntüler doğası gereği hassas görünüyor, özel anları veya herhangi bir çıplaklık durumunu tasvir edenler gibi. Ancak, bu tür görüntülerin otomatik olarak mı silindiği yoksa bir moderatörün bunları önce görüp sonra gerekli işlemi yapmaya mı karar verdiği net değil.

iRobot destanından oldukça endişe verici bir çıkarım, bu sızıntıların, gönüllülere neye bulaştıklarının söylendiği, geliştirilmekte olan bir temizlik robotunun test aşamasında meydana gelmesidir. gibi ticari olarak temin edilebilen cihazlar için Roomba, insanların çoğu, veri toplama şartlarını ayrıntılı olarak okumaya zahmet etmez ve farkında olmadan sona erebilir. tonlarca kişisel olarak tanımlanabilir veriyi teslim etmek gevşek veri güvenliği önlemleri olan şirketlere.

Kaynak: MIT Teknoloji İncelemesi