AI Bias: เทคโนโลยีส่งผลเสียต่อชนกลุ่มน้อยอย่างไร

เทคโนโลยี รวมทั้ง AIสามารถใช้เป็นเครื่องมือในการเลือกปฏิบัติต่อชนกลุ่มน้อย ด้วยการประท้วงของ Black Lives Matters ที่เกิดขึ้นทั่วทั้งสหรัฐอเมริกา การอภิปรายและการโต้วาทีก็เกิดขึ้นแล้ว กำลังดำเนินการเกี่ยวกับการเหยียดเชื้อชาติโดยเฉพาะอย่างยิ่งในด้านการรักษาและกฎหมาย การบังคับใช้ บทสนทนานั้นได้เริ่มพูดถึงโดยธรรมชาติแล้ว อคติในเทคโนโลยีบางอย่าง.

โลกมีมากขึ้นอย่างต่อเนื่อง พึ่งพาเทคโนโลยี. อันที่จริง ในช่วงไม่กี่เดือนที่ผ่านมาพบว่าการพึ่งพาอาศัยกันเพิ่มขึ้นด้วยเทคโนโลยีที่ใช้สำหรับการสื่อสาร การวิจัย และความตระหนักด้านสาธารณสุขในช่วงการระบาดใหญ่ของ COVID-19 ข้อมูลขนาดใหญ่และ AI คาดว่าจะมีบทบาทมากขึ้นในหลายอุตสาหกรรม รวมถึงการสาธารณสุขและการบังคับใช้กฎหมาย เมื่อมีการเปลี่ยนแปลงครั้งใหญ่ สิ่งสำคัญคือต้องแน่ใจว่า การเลือกปฏิบัติในรูปแบบใด ๆ ไม่ซึมเข้าไปในการออกแบบระบบใหม่เหล่านั้น ข้อบกพร่องพื้นฐานดังกล่าวสามารถเกิดขึ้นได้กับเทคโนโลยีและอัลกอริธึมการแนะนำของ Facebook เป็นตัวอย่างที่ดีว่าเทคโนโลยีสามารถเป็นได้อย่างไร แบ่งตามการออกแบบ.

อคติต่อชนกลุ่มน้อยสามารถเห็นได้ในเทคโนโลยีที่ขับเคลื่อนโดยข้อมูลขนาดใหญ่ และโดยเฉพาะอย่างยิ่งในด้านการรักษาพยาบาล เนื่องจาก

MIT Tech Review ชี้ให้เห็นว่ามีเครื่องมือเทคโนโลยีที่ใช้อยู่แล้วซึ่งมีอคติทางเชื้อชาติกับนักเคลื่อนไหวเช่น Hamid Khan ต่อสู้เพื่อหยุดการใช้งาน อคติในระบบเทคโนโลยีหรือโครงสร้างพื้นฐานไม่ใช่เรื่องใหม่ ตัวอย่างแรกๆ ของเรื่องนี้ในสหรัฐฯ คือกรณีของสะพานต่ำที่สร้างขึ้นอย่างมีจุดมุ่งหมายบนทางเดินในลองไอส์แลนด์ซึ่งไปยังหาดโจนส์โดยโรเบิร์ต โมเสส ในชีวประวัติที่ได้รับการยกย่อง นายหน้าซื้อขายไฟฟ้า โดย Robert Caro และตามที่ระบุไว้โดย ข่าวเอ็นบีซีขอแนะนำว่าโมเสสทำเช่นนี้เพื่อกันไม่ให้รถเมล์ออกและห้ามชาวแอฟริกันอเมริกัน ลาติน และชาวนิวยอร์กที่มีรายได้น้อยใช้ระบบขนส่งสาธารณะเพื่อเข้าถึงชายหาด

อัลกอริธึมการแบ่งแยกเชื้อชาติเป็นปัญหา

ทุกวันนี้ นักวิจัยและนักเคลื่อนไหวกังวลเกี่ยวกับ AI ที่เหยียดผิวมากกว่าถนนที่เหยียดผิว โครงการทำนายผลการรักษาของกรมตำรวจลอสแองเจลิสซึ่งมีจุดมุ่งหมายเพื่อคาดการณ์ว่าอาชญากรรมทางทรัพย์สินจะเกิดขึ้นที่ไหนเป็นหนึ่งในนั้น เนื่องจากโปรแกรมใช้ข้อมูลเสียบที่รวบรวมโดยตำรวจในช่วงหลายปีที่ผ่านมา จึงมีแนวโน้มว่าจะมีอคติต่อ ชนกลุ่มน้อย โดยนักวิจารณ์แนะนำว่าอัลกอริธึมได้รับการกำหนดเป้าหมายเป็นชนกลุ่มน้อยอย่างไม่เป็นสัดส่วน บริเวณใกล้เคียง อย่างไรก็ตาม เมื่อเร็ว ๆ นี้ LAPD ได้ประกาศว่าจะหยุดโครงการเนื่องจากขาดแคลนเงินทุนที่เกิดจากวิกฤต COVID-19

การจดจำใบหน้าเป็นอีกกลุ่มหนึ่งของเทคโนโลยีที่มีประวัติการโต้เถียงในเรื่องอคติทางเชื้อชาติและเพศ เนื่องจากระบบระบุใบหน้าที่ไม่ใช่คนขาวอย่างผิด ๆ อย่างสม่ำเสมอ หน่วยงานบังคับใช้กฎหมายมักใช้เทคโนโลยีการจดจำใบหน้าที่ขับเคลื่อนด้วย AI ซึ่งพัฒนาโดย บริษัทอย่าง Clearview AI. การพัฒนาและการใช้เครื่องมือเฝ้าระวังมวลชนนั้นเป็นหัวข้อที่น่าสงสัย อย่างไรก็ตาม เทคโนโลยีการเฝ้าระวังมวลชนที่มีอคติทางเชื้อชาตินั้นเป็นสิ่งที่ยอมรับไม่ได้ โดดเด่นในปี 2019 วอชิงตันโพสต์ บทความ การศึกษาของรัฐบาลกลางยืนยันว่าเทคโนโลยีการจดจำใบหน้าส่วนใหญ่ที่ใช้ในสหรัฐอเมริกานั้นไม่ถูกต้องอย่างร้ายแรงเมื่อต้องระบุใบหน้าของคนไม่ใช่คนผิวขาว การเปรียบเทียบกับอัลกอริธึมที่พัฒนาโดยบริษัทในเอเชียซึ่งระบุใบหน้าชาวเอเชียได้ดีกว่ามาก ชี้ให้เห็นว่าข้อมูลที่มีอคติที่ใช้ในการฝึกอัลกอริทึมนั้นเป็นปัญหา

หลังจากการประท้วงเมื่อเร็วๆ นี้ บริษัทเทคโนโลยีต่างๆ กำลังดำเนินการเรื่องนี้อย่างจริงจังมากขึ้นและตามที่รายงานโดย CNBCเมื่อเร็วๆ นี้ IBM ได้ประกาศว่ากำลังออกจากธุรกิจการจดจำใบหน้า Aravind Krishna CEO ของบริษัทกล่าวในจดหมายว่า IBM ยังสนับสนุนการปฏิรูปหลายอย่างที่แนะนำในร่างกฎหมายปฏิรูปตำรวจของพรรคเดโมแครต นอกจากนี้ Amazon เพิ่งประกาศว่าเป็นอย่างไร ถือครองหนึ่งปี เกี่ยวกับการใช้เทคโนโลยีจดจำใบหน้าของตำรวจ Rekognition นี่เป็นสัญญาณที่ให้กำลังใจ และหวังว่าบริษัทใหญ่อื่นๆ ที่ลงทุนในการจดจำใบหน้าจะปฏิบัติตาม อย่างไรก็ตาม จำเป็นต้องมีการเปลี่ยนแปลงอย่างมากในด้านเทคโนโลยีและการวิจัยและการออกแบบโดยทั่วไปของ AI เพื่อจัดการกับสิ่งที่เรียกว่า 'การเหยียดเชื้อชาติทางเทคโนโลยี'

ผู้เขียนบท Thor ขอโทษสำหรับข้อผิดพลาดความต่อเนื่องของ Marvel อย่างมหาศาลกับ Mjolnir

เกี่ยวกับผู้เขียน