Zoom хочет отслеживать ваши эмоции, вот что вы должны знать

Коллектив 28 правозащитных организаций призвал Увеличитьприостановить работу над системой отслеживания эмоций, целью которой является анализ вовлеченности и настроений пользователей. Конечно, идея звучит агрессивно с самого начала, но это не первый проект в своем роде, когда дело доходит до конечной цели. Уже существует множество программных продуктов, предназначенных для удаленных работников, которые отслеживают все, от щелчков мышью до веб-активности от имени работодателей.

Мнения об этих продуктах уже разделились, но мониторинг активности пользователей происходит во всех формах и формах, а иногда и из совершенно ничего не подозревающих источников. Недавнее расследование показало, что значительное число приложения для психического здоровья и медитации, занимающиеся интеллектуальным анализом данных и передал его третьим лицам для рекламы. Но масштабы мониторинга активности пользователей расширились в эпоху пандемии под видом корпоративных решений для оценки доступности и внимательности работников. Похоже, что Zoom, одна из самых больших историй успеха в эту эпоху драматических рабочих смен, также была вовлечена в собственный проект.

«Борьба за будущее» наряду с 27 другими правозащитными организациями написано открытое письмо в Zoom с призывом остановить работу программного обеспечения для отслеживания эмоций на основе искусственного интеллекта, которое изучает выражение лица участников видеозвонка. Организация классифицировала программное обеспечение как «дискриминационная, манипулятивная, потенциально опасная», далее указав, что он основан на ошибочном предположении, что такие маркеры, как голос, выражение лица и язык тела, одинаковы для всех людей. За критикой стоит серьезная озабоченность, поскольку лица алгоритмы распознавания и другие продукты на основе ИИ оказались подвержены ошибкам, когда дело доходит до обработки изображений, изображающих людей с разным цветом кожи и различными формами тела. Согласно отчету из Протокол, гигант видеоконференцсвязи работает над продуктом под названием Zoom IQ, который будет предлагать что-то, называемое отчетом об анализе настроений, организатору встречи после завершения разговора.

Новая эра отслеживания с помощью ИИ

Есть компании, такие как Uniphore и Sybill, которые, как сообщается, разрабатывают продукты, нацеленные на использование ИИ для мониторинга поведения человека во время видеозвонков в режиме реального времени. Zoom, с другой стороны, как говорят, исследует способы, которые позволят ему включить такую ​​систему в свой портфель продуктов. “Это информационные сигналы, которые могут быть полезны; они не обязательно решающие— сказал Джош Далбергер, руководитель отдела продуктов (данные и искусственный интеллект) в Zoom. Несмотря на осторожный взгляд руководителя Zoom, идея ИИ, анализирующего выражения лиц и оценивающего настроения участников видеозвонка, мягко говоря, нервирует. Обеспокоенность обоснована, и после нескольких лет поддержки со стороны экспертов и активистов Правительство США также подошло к этой идее регулирования искусственного интеллекта.

В то время как предположение о вторжении в частную жизнь с помощью продукта Zoom, безусловно, вызывает тревогу, что действительно беспокоит, так это предположение «один размер подходит всем» и то, надежна ли такая технология вообще. В другом письме Zoom эксперты предупредили, что такая система основана на лженауке, поскольку машина обучение на самом деле не доказало свою способность понимать человеческие эмоции, основанные на выражении лица. выражения. Эксперты также предупредили, что несмотря на все его благие намерения, такой продукт может быть использован для принуждения к карательным действиям не только в корпоративном мире, но и проложит путь к новая отрасль, в которой анализ эмоций приведет к более мощным цифровым манипуляциям и откроет шлюзы для сбора чрезвычайно личных данных пользователей. данные. Если принудительно, Зум Продукт добавит совершенно новое измерение к дискриминационным нормам ИИ.

Источник: Борьба за будущее, Протокол

Фаза 4 превратила финал «Вечных» в гигантскую дыру в сюжете MCU

Об авторе