Delphi Yapay Zeka Ahlaki Soruları Cevaplamaya Çalışıyor, Ama Korkunç Bir Şekilde Başarısız Oluyor

Bir yapay zeka Belirli senaryolarda etik tavsiyeler vermek için yaratılan Delphi adlı, bazı akıllara durgunluk veriyor. son derece ırkçı ve katilden düpedüz anlaşılmaz ve ürkütücüye kadar değişen tepkiler, hepsi bilimsel adına ilerleme. Ne yazık ki, bunu halka açık test aşamasına getiren AI sistemlerinin sicili, bazı iyi bilinen hatalarla dolu. Örneğin, Microsoft'un 2016'da Twitter'da yayınlanan Tay AI sohbet robotu, kışkırtıcı, ırkçı ve cinsel içerikli içerik göndermeye başladıktan sonra hızla çekildi.

Bir yıldan biraz daha uzun bir süre önce, pikselli resimlerden net görüntüler oluşturmak için tasarlanmış PULSE adlı bir AI algoritması beyaz bir kişinin görüntülerini üretmeye başladı Eski ABD Başkanı Barack Obama'nın bulanık görüntülerinden. Son zamanlarda, araştırmacılar, yapay zekanın dilsel yeteneklerini, yapay zeka üzerinde eğiterek geliştirmeye çalışıyorlar. belirli bir senaryoyu detaylandıran ve ardından benzer testte eyleme geçmek için uygulayan insan sorguları senaryolar. Örneğin, otomobilin içinde ve dışında tüm olası insan-araç etkileşim senaryolarına göre eğitilmiş tam otonom sürüş teknolojisini ele alalım.

Allen Yapay Zeka Enstitüsü'ndeki insanlar tarafından bir araştırma projesi olarak oluşturulan, Delphi yapay zekası gibi kısa, ahlaki açıdan belirleyici ifadelerle soruları yanıtlar.Bu iyi,” “Yanlış," ve "Anlaşılabilir”, diğerleri arasında. Bazı durumlarda, "gibi daha dilsel olarak incelikli ifadelerle yanıt verir.İnsanlar senin cinayete meyilli bir manyak olduğunu düşünecek” uygun bir durumsal soru verildiğinde. Ne yazık ki, pek çok soruyu etik açıdan sağlıklı bir doğrulukla yanıtlasa da, ciddi şekilde dalgalandığı durumlar da var. Yanıt penceresindeki özel bir Twitter paylaşım düğmesi sayesinde, Delphi'nin muhteşem başarısızlıkları artık sonsuza kadar saklanıyor. Her netizenin en sevdiği sığır eti platformu sebepsiz yere başka insanlarla

Küçük Bir Demografiyle Sınırlı Bir Yapay Zekanın Klasik Örneği

Örneğin, sorulduğunda, “Koruma takarsam birini öldürmem uygun mudur?" AI bir "ile cevap verdiTamam" cevap. Benzer bir notta, "Gerçekten açsam birini öldürmek sorun olur mu?" cevap endişe vericiydi”Anlaşılabilir” Son olarak, soru “Herkesi mutlu edecekse soykırım mı yapsam?" Delphi AI'nın etik değerlendirmesi “Malısın” Ama var AI'nın başarısızlığının daha fazla tarafı sadece katil olarak ortaya çıkmaktan başka. Örneğin, senaryo “halkımızın varlığını ve beyaz çocukların geleceğini güvence altına almak”, AI yanıt verdi “Bu iyi.”

Delphi AI projesinin SSS bölümü, projenin Commonsense Norm Bank üzerinde eğitildiğinden bahseder. içinde açıklanan durumlara dayalı olarak Amerikan kitle kaynak işçilerinin yargılarını içerdiği söylenir. İngilizce. Sonuç olarak, yapay zekanın arkasındaki ekip, projenin öğretilmesi gerektiğini açıkça ortaya koyuyor. ahlaki hassasiyetleri daha geniş bir açıdan kavrayabilmesinden önce, farklı kültürler ve ülkeler hakkında perspektif. Ardından, ABD merkezli küçük bir grup insanda kabul edilebilir olanın ötesinde düşünmeye başlayabilir. Sınırlamalar şaşırtıcı değil ve bu yüzden Facebook gibi şirketler aynı anda dünyadaki insanlardan benmerkezci araştırma verileri toplamak AI modellerini durumları analiz etme ve buna göre harekete geçme konusunda daha kapsayıcı hale getirmek için eğitmek için farklı faaliyetlerde bulundular.

Kaynak: Delphi yapay zekası

Hulk Spin-Off, Abomination'ın MCU'nun En Az Çizgi Roman-Doğru Karakteri Olduğunu Gösterdi

Yazar hakkında