Yapay Zeka Önyargısı: Teknoloji Azınlıkları Nasıl Olumsuz Etkiler?
dahil olmak üzere teknoloji yapay zeka, azınlıklara karşı bir ayrımcılık aracı olarak kullanılabilir. ABD'de son zamanlarda gerçekleşen Black Lives Matters protestoları ile tartışmalar ve tartışmalar artık özellikle polislik ve hukuk söz konusu olduğunda, ırkçılığın nasıl kurumsallaştırıldığı konusunda devam ediyor icra. Bu konuşma artık doğasında var olan sorunları da ele almaya başladı. bazı teknolojilerde önyargılar.
Dünya sürekli olarak daha fazla hale geliyor teknolojiye bağlı. Aslında, geçtiğimiz birkaç ay, COVID-19 salgını sırasında iletişim, araştırma ve halk sağlığı bilinci için kullanılan teknolojiyle güvenin arttığını gördü. Büyük veri ve yapay zeka halk sağlığı ve kolluk kuvvetleri de dahil olmak üzere birçok sektörde daha büyük bir rol oynaması bekleniyor. Böyle büyük değişiklikler olduğunda, emin olmak önemlidir. herhangi bir biçimde ayrımcılık bu yeni sistemlerin tasarımına sızmaz. Teknolojide bu tür temel kusurlar olabilir ve Facebook'un tavsiye algoritması, teknolojinin nasıl olabileceğinin iyi bir örneğidir. tasarımla bölücü.
Azınlıklara yönelik önyargı, büyük veri tarafından yönlendirilen teknolojilerde ve özellikle polislik alanında da görülebilir. Olarak MIT Teknoloji İncelemesi Hamid Khan gibi aktivistlerin kullanımlarını durdurmak için mücadele etmelerine karşı ırkçı bir önyargıya sahip olan teknik araçların halihazırda kullanımda olduğuna dikkat çekiyor. Bir teknolojik sistem veya altyapıdaki önyargı yeni bir şey değildir. Bunun ABD'deki ilk örneği, Robert Moses tarafından Jones Plajı'na giden Long Island park yollarında bilinçli olarak inşa edilmiş alçak köprüler örneğidir. Beğenilen biyografide Güç Brokeri Robert Caro tarafından ve belirtildiği gibi NBC Haberleri, Musa'nın bunu otobüsleri dışarıda tutmak ve Afrikalı Amerikalılar, Latinler ve düşük gelirli New Yorkluların plaja erişmek için toplu taşıma araçlarını kullanmasını engellemek için yaptığı öne sürüldü.
Irkçı Algoritmalar Bir Sorun
Bugün, araştırmacılar ve aktivistler, ırkçı yollardan ziyade ırkçı yapay zeka konusunda endişeli. Los Angeles Polis Departmanı'nın mülkiyet suçlarının nerede gerçekleşeceğini tahmin etmeyi amaçlayan öngörücü polislik programı bunlardan biri. Program, polis tarafından yıllar içinde toplanan çarpıtılmış verileri kullandığından, azınlıklar, algoritmanın orantısız bir şekilde azınlığı hedef aldığını öne süren eleştirmenlerle mahalleler. Ancak LAPD kısa süre önce, COVID-19 krizinin neden olduğu fon kıtlığı nedeniyle programı durdurduğunu duyurdu.
Yüz tanıma, beyaz olmayan yüzleri sürekli olarak yanlış tanımlayan sistemler nedeniyle ırk ve cinsiyet yanlılığı söz konusu olduğunda tartışmalı bir geçmişe sahip başka bir teknoloji ailesidir. Kolluk kuvvetleri, yaygın olarak tarafından geliştirilen AI destekli yüz tanıma teknolojisini kullanır. Clearview AI gibi şirketler. Kitlesel gözetleme araçlarının geliştirilmesi ve kullanılması başlı başına şüpheli bir konudur, ancak ırksal olarak önyargılı bir kitle gözetleme teknolojisi kesinlikle kabul edilemez. 2019'da vurgulanan Washington Post Makalede, federal bir çalışma, ABD'de kullanılan çoğu yüz tanıma teknolojisinin, beyaz olmayan insanların yüzlerini tanımlama konusunda ciddi şekilde yanlış olduğunu doğruladı. Asyalı şirketler tarafından geliştirilen ve Asyalı yüzleri tanımlamada çok daha iyi olan algoritmalarla yapılan bir karşılaştırma, sorunun algoritmayı eğitirken kullanılan önyargılı veriler olduğunu gösterdi.
Son protestoların ardından, Teknoloji şirketleri konuyu artık daha ciddiye alıyor ve bildirildiği gibi CNBC, IBM kısa süre önce yüz tanıma işinden çıktığını duyurdu. Şirketin CEO'su Aravind Krishna, bir mektupta IBM'in Demokratların polis reformu yasasında önerilen reformların çoğunu desteklediğini söyledi. Buna ek olarak, Amazon kısa süre önce bunun nasıl olduğunu açıkladı. bir yıl bekletme polisin yüz tanıma teknolojisi Rekognition'ı kullanması hakkında. Bunlar cesaret verici işaretler ve umarım yüz tanımaya yatırım yapan diğer büyük şirketler de aynı şeyi yapacaktır. Bununla birlikte, şu anda 'tekno-ırkçılık' olarak bilinen şeyle başa çıkmak için teknolojide ve genel olarak AI araştırma ve tasarımında çok şeyin değişmesi gerekiyor.
Thor Yazarı Mjolnir ile Büyük Marvel Süreklilik Hatası İçin Özür Diledi
Yazar hakkında