Bias AI: Bagaimana Teknologi Berdampak Negatif Pada Minoritas
Teknologi, termasuk AI, dapat digunakan sebagai instrumen diskriminasi terhadap minoritas. Dengan protes Black Lives Matters baru-baru ini yang terjadi di seluruh AS, diskusi dan debat sekarang sedang berlangsung tentang bagaimana rasisme dilembagakan, terutama dalam hal kepolisian dan hukum pelaksanaan. Percakapan itu juga sekarang mulai membahas yang melekat bias dalam beberapa teknologi.
Dunia secara konsisten menjadi lebih mengandalkan teknologi. Faktanya, beberapa bulan terakhir telah terlihat bahwa ketergantungan meningkat dengan teknologi yang digunakan untuk komunikasi, penelitian, dan kesadaran kesehatan masyarakat selama pandemi COVID-19. Data besar dan AI diharapkan memainkan peran yang lebih besar di banyak industri, termasuk kesehatan masyarakat dan penegakan hukum. Ketika perubahan besar terjadi, penting untuk memastikan bahwa diskriminasi dalam bentuk apapun tidak meresap ke dalam desain sistem baru tersebut. Kelemahan mendasar seperti itu dapat terjadi dengan teknologi dan algoritme rekomendasi Facebook adalah contoh yang baik tentang bagaimana teknologi dapat terjadi
Bias terhadap minoritas juga dapat dilihat dalam teknologi yang didorong oleh data besar, dan terutama dalam kepolisian. Sebagai Ulasan Teknologi MIT menunjukkan, sudah ada alat teknologi yang digunakan yang memiliki bias rasis dengan aktivis seperti Hamid Khan yang berjuang untuk menghentikan penggunaannya. Bias dalam sistem atau infrastruktur teknologi bukanlah sesuatu yang baru. Contoh awal dari hal ini di AS adalah kasus jembatan rendah yang sengaja dibangun di jalur taman Long Island menuju Pantai Jones oleh Robert Moses. Dalam biografi terkenal Pialang Kekuatan oleh Robert Caro, dan seperti yang ditunjukkan oleh Berita NBC, Musa disarankan melakukan ini untuk mencegah bus keluar dan menghentikan orang Afrika-Amerika, Latin, dan warga New York berpenghasilan rendah menggunakan transportasi umum untuk mengakses pantai.
Algoritma Rasis Adalah Masalah
Saat ini, para peneliti dan aktivis lebih khawatir tentang AI rasis, daripada jalan rasis. Program kepolisian prediktif Departemen Kepolisian Los Angeles yang bertujuan untuk memprediksi di mana kejahatan properti akan terjadi adalah salah satunya. Karena program ini menggunakan data yang tidak jelas yang dikumpulkan oleh polisi selama bertahun-tahun, kemungkinan besar akan bias terhadap minoritas, dengan kritik yang menyatakan bahwa algoritme telah secara tidak proporsional menargetkan minoritas lingkungan. Namun, LAPD baru-baru ini mengumumkan penghentian program tersebut, karena kelangkaan dana akibat krisis COVID-19.
Pengenalan wajah adalah keluarga teknologi lain yang memiliki rekam jejak kontroversial dalam hal bias rasial dan gender, karena sistem yang secara konsisten salah mengidentifikasi wajah non-kulit putih. Lembaga penegak hukum biasanya menggunakan teknologi pengenalan wajah bertenaga AI yang dikembangkan oleh perusahaan seperti Clearview AI. Pengembangan dan penggunaan alat pengawasan massal itu sendiri adalah topik yang dipertanyakan, namun, teknologi pengawasan massal yang bias secara rasial sama sekali tidak dapat diterima. Disorot di 2019 Washington Post Sebuah penelitian federal mengkonfirmasi bahwa sebagian besar teknologi pengenalan wajah yang digunakan di AS sangat tidak akurat dalam hal mengidentifikasi wajah orang non-kulit putih. Perbandingan dengan algoritme yang dikembangkan oleh perusahaan Asia yang jauh lebih baik dalam mengidentifikasi wajah Asia, menunjukkan bahwa data bias yang digunakan dalam melatih algoritme adalah masalahnya.
Menyusul protes baru-baru ini, perusahaan teknologi sekarang menangani masalah ini dengan lebih serius dan seperti yang dilaporkan oleh CNBC, IBM baru-baru ini mengumumkan keluar dari bisnis pengenalan wajah. CEO perusahaan, Aravind Krishna, mengatakan dalam sebuah surat bahwa IBM juga mendukung banyak reformasi yang disarankan dalam undang-undang reformasi kepolisian Partai Demokrat. Selain itu, Amazon baru-baru ini mengumumkan bagaimana itu menempatkan penangguhan satu tahun tentang penggunaan teknologi pengenalan wajah oleh polisi, Rekognition. Ini adalah tanda-tanda yang menggembirakan dan mudah-mudahan, perusahaan besar lainnya yang berinvestasi dalam pengenalan wajah akan mengikuti. Namun, banyak yang perlu diubah dalam penelitian dan desain teknologi dan AI secara umum, untuk menghadapi apa yang sekarang dikenal sebagai 'rasisme tekno'.
Thor Writer Meminta Maaf atas Kesalahan Besar Kontinuitas Marvel Dengan Mjolnir
Tentang Penulis