Amazon няма да позволи на полицията да използва своята технология за разпознаване на лица за една година
Amazon наскоро обяви, че ограничава полицията използването на своята технология за разпознаване на лица Rekognition. Това идва в момент, когато случаите на прекомерна употреба на сила от полицията бяха подчертани от основните и социалните медии. Както и повишаване на нивото на подкрепа за Black Lives Matter, в отговор на смъртта на Джордж Флойд.
Напоследък Amazon беше активен участник в намирането на начини за ограничаване на разпространението на COVID-19. Например, компанията е предложила нови технология за проследяване на разпространението на коронавирус, а също отлагане на Prime Day до по-късно през годината. Amazon също се оказа в гореща вода за опитвайки се да заглуши служителите озвучавайки предполагаемото малтретиране на работниците от компанията по време на пандемията. Сега обаче Amazon насочи вниманието си към поведението на полицията и как нейната технология може да бъде използвана от полицията.
Rekognition е технология за машинно обучение, подобна на изкуствен интелект с неговите основни два компонента, фокусирани върху лицевия анализ и лицевото разпознаване. Анализът на лицето може да открие само общи характеристики като окосмяване по лицето или пол, но не и характеристики, които правят лицето уникално, като формата на носа или размера на устните. Разпознаването на лица използва тези уникални черти на лицето, за да идентифицира възможни съвпадения. И двата аспекта на компютърното зрение могат да помогнат в борбата с престъпността и полицията може да използва технологията за бързо идентифициране на заподозрени. Има обаче опасения, че технологията за разпознаване на лица може да се използва за дискриминация и нарушаване на граждански права. В светлината на настоящата ситуация в САЩ, Amazon сега
Полицейската забрана на Amazon може да означава по-строги разпоредби
Използва се технологията за разпознаване на лица използва се за отключване на телефони и маркиране на приятели в социалните медии. Въпреки това, използването му в правоприлагането е сравнително ново и следователно постоянно е обект на промени или подобрения. С последните случаи на прекомерна полицейска сила и нарастващи доказателства за расово профилиране с технология за разпознаване на лица, Amazon изглежда вярва, че трябва да приложи повече насоки за използване на технологията от правоприлагащите органи, с надеждата да се ограничи възможността технологията да бъде злоупотребена или да се подчинят цивилните на несправедливо дискриминация. Както при изкуствения интелект като цяло, има опасения за расови пристрастия, но за разлика от AI, технологията за разпознаване на лица е пристрастна не произтича само от алгоритмите или хората, които ги създават, но и от хора, които активно използват технологията в реалността свят.
Разпознаване на лица и лицевият анализ не са точни науки, а науки за сближаване. Всеки от тях предоставя проценти на доверие или прагове на доверие и изисква почтеност сред потребителите, за да разберат важността на процента и да формулират свои собствени заключения. Например, насоките на Amazon за потребителите на Rekognition state трябва да използват само прагове на доверие от 99% или по-високи, за да се избегнат грешки и фалшиви положителни резултати. Освен това, използване на лицево разпознаване и лицев анализ заедно или за оценка на увереността на лицевото разпознаване с лицеви анализът би бил директно в противоречие с указанията на Amazon, като се има предвид, че и двете използват различни алгоритми и могат да доведат до неточни резултати. Субективният елемент - фактът, че служителите на реда трябва да използват собствената си интуиция, за да изведат собствените си заключения, вместо да разчитате толкова силно на технологията и данните - тук идват допълнителните опасения в Въпреки че Amazon иска промяна, компанията все още не е разкрила подробности за вида на регулациите, които сега очаква.
Източник: Amazon.
90-дневен годеник: Нехигиеничните навици на Джени Слатън, разкрити от майката на Sumit
За автора