Bir 'Beyaz Obama' Görüntüsü AI'nın Irk Önyargısını Nasıl Vurgular?

Bir yapay zeka pikselli olanlardan pikselsiz fotoğraflar üretmek için kullanılan algoritmanın, Barack Obama'nın pikselli bir görüntüsünden beyaz bir yüz ürettiği bulunmuştur. AI yüz tanıma araçlarının ırksal önyargıları hakkında devam eden tartışmalar ve daha önce başka çözümlerde bulunan örnekler göz önüne alındığında bu bir sürpriz değil. AI'daki bu tür önyargı, toplumun birçok yönünü değiştirebilecek bir teknoloji olarak yaygın olarak kabul edildiğinden büyük bir endişe kaynağıdır.

Black Lives Matter hareketi, polis tarafından kullanılan teknolojiler ve araçlar da dahil olmak üzere modern kolluk kuvvetlerindeki sistemik ırkçılık hakkında sorular soruyor. tarafından ırksal önyargının nasıl olduğuna dair bazı örnekler yapay zeka teknolojileri Polis departmanları tarafından kullanılan, şüphelilerin tanınması ve daha önce toplanan verileri kullanarak 'risk altındaki' mahallelerin tahmin edilmesinde tezahür edebilir. Bu, genel anlayış şu şekilde olduğundan, bir süredir araştırmacılar ve aktivistler arasında bir endişe konusu olmuştur.

AI araçları orantısız şekilde etkileyebilir azınlıklar, esas olarak onları eğitmek için kullanılan kusurlu veri kümeleri nedeniyle. Daha yakın zamanlarda, bu, bu teknolojileri geliştiren ve kanun uygulayıcılara satan bir dizi şirketin mevcut duruşlarını yeniden düşünmesine yol açtı. Amazon'un durumunda, şirket yakın zamanda doğruladı bir yıllık yasak koymak yüz tanıma çözümünün kullanımı hakkında.

Son zamanlarda, PULSE adlı bir makine öğrenme algoritması, Barack Obama'nın pikselli bir görüntüsünden beyaz bir yüz oluşturdu. Obama, tartışmasız dünyanın en ünlü siyah insanlarından biri ile, AI görüntüleme araçlarında görülebilen ırksal önyargıyı hatırlatıyor. Sorun, PULSE'u indirdikten sonra test eden programcılar tarafından Twitter'da işaretlendi. yayınlanan kod GitHub'dan. Olarak Sınır Bildirildiğine göre, algoritma pikselli giriş görüntüsünü doğru bir şekilde tanımlamak için değil, pikselli görüntüye benzeyen yeni bir yapay yüz üretmek için tasarlanmıştır. Yine de, konu beyaz olmayan yüzler olduğunda ciddi bir önyargı gösteriyor gibi görünüyor. Girdi, Kongre Üyesi Alexandra Ocasio-Cortez'in yanı sıra aktris Lucy Liu'nun pikselli bir fotoğrafı olduğunda, algoritma ayrıca Kafkas özelliklerine sahip yüzler üretiyor.

PULSE Nasıl Çalışır ve Önyargı Nereden Geliyor?

PULSE, NVIDIA bilgisayar bilimcileri tarafından oluşturulan StyleGAN algoritması kullanılarak Duke Üniversitesi'nden araştırmacılar tarafından geliştirilmiştir. Oluşturmak için görünen web siteleri oluşturmak için kullanılmıştır. gerçekçi görünümlü insan yüzleri. Araştırmacılar StyleGAN'ı görsel verileri yükseltmek için kullandılar, yani eksik verileri pikselli yüz girin ve giriş görüntüsüne benzeyen yüksek çözünürlüklü yeni bir yüz hayal edin. pikselli.

Sonra Irk önyargısı Bildirildi, orijinal yaratıcılar sorunu onayladılar ve emin olmasalar da, bunun büyük olasılıkla StyleGAN'ı eğitmek için kullanılan veri kümelerinden devralınan bir kusur olduğunu açıkladılar. Kendilerine yeni bir bölüm de eklemişler. yayınlanan makale algoritmanın ırksal önyargısı ve ortaya çıkmış olabileceği çeşitli yollar hakkında. Bu cesaret verici bir adımdır, çünkü araştırma düzeyinde bir teknolojinin zayıflıklarını bulmak ve raporlamak, pratik araçların geliştirilmesine yardımcı olmak için uzun bir yol kat edebilir.

Yine de bu olay, yıllar içinde toplanan veriler kullanılarak oluşturulan teknolojilere yanlılığın nasıl sızabileceğini hatırlatıyor. Dan beri Büyük veri geleceğin şekillenmesinde çok önemli olacak, her türlü ayrımcılığın sağlanması için gerekli adımların atılması çok önemli. Bir yapay zeka veri setinde yer alan veriler, veriler kullanılarak oluşturulan bir teknolojide ciddi bir önyargıya dönüşmez.

Kaynak: Sınır, GitHub

Uncharted Filmi: Drake'in Kardeşi Sam Neden Fragmanda Gizli?

Yazar hakkında