Zoom veut suivre vos émotions, voici ce que vous devez savoir
Un collectif de 28 organisations de défense des droits de l'homme a exhorté Zoomd'arrêter ses travaux sur un système de suivi des émotions qui vise à analyser l'engagement et les sentiments des utilisateurs. Bien sûr, l'idée semble envahissante dès le départ, mais ce n'est pas le premier projet du genre en ce qui concerne l'objectif final. Il existe déjà une tonne de produits logiciels destinés aux travailleurs à distance qui suivent tout, des clics de souris à l'activité Web au nom des employeurs.
Ces produits ont déjà des opinions partagées, mais la surveillance de l'activité des utilisateurs se produit sous toutes les formes et sous toutes les formes, et parfois, à partir de sources extrêmement peu méfiantes. Une enquête récente a révélé qu'un bon nombre de applications de santé mentale et de méditation engagées dans l'exploration de données et l'a remis à des tiers à des fins publicitaires. Mais la portée de la surveillance de l'activité des utilisateurs s'est élargie à l'ère de la pandémie sous le couvert de solutions d'entreprise pour évaluer la disponibilité et l'attention des travailleurs. Il semble que Zoom, l'une des plus grandes réussites de cette ère de quart de travail dramatique, était également engagé dans un projet préoccupant.
Fight for the Future, aux côtés de 27 autres organisations de défense des droits humains, a écrit une lettre ouverte à Zoom, l'appelant à arrêter le logiciel de suivi des émotions basé sur l'IA qui étudie l'expression faciale des participants aux appels vidéo. L'organisation a classé le logiciel comme "discriminatoire, manipulateur, potentiellement dangereux», soulignant en outre qu'il est basé sur l'hypothèse erronée selon laquelle des marqueurs tels que le modèle de voix, les expressions faciales et le langage corporel sont uniformes pour toutes les personnes. Il y a une inquiétude valable derrière la critique, car le visage algorithmes de reconnaissance et autres produits basés sur l'IA se sont avérés sujets aux erreurs lorsqu'il s'agit de traiter des images représentant des personnes de couleur et des formes corporelles variées. Selon un rapport de Protocole, le géant de la vidéoconférence travaille sur un produit appelé Zoom IQ qui offrira quelque chose appelé un rapport d'analyse des sentiments à l'hôte d'une réunion une fois l'appel terminé.
Une nouvelle ère de suivi basé sur l'IA
Il existe des entreprises telles que Uniphore et Sybill qui développeraient des produits visant à tirer parti de l'IA pour surveiller le comportement humain lors d'appels vidéo en temps réel. Zoom, d'autre part, serait en train de rechercher des moyens qui lui permettront d'intégrer un tel système dans son portefeuille de produits. “Ce sont des signaux d'information qui peuvent être utiles; ils ne sont pas nécessairement décisifs"Josh Dulberger, responsable de produit (données et IA) chez Zoom, aurait déclaré. Malgré les perspectives prudentes de l'exécutif de Zoom, l'idée que l'IA analyse les expressions faciales et évalue les sentiments des participants à un appel vidéo est assez déconcertante, c'est le moins qu'on puisse dire. Les préoccupations sont légitimes, et après des années de plaidoyer d'experts et d'activistes, le Le gouvernement américain s'est également réchauffé à l'idée de régulation de l'intelligence artificielle.
Bien que la prémisse de l'intrusion dans la vie privée avec le produit de Zoom sonne certainement la sonnette d'alarme, ce qui est vraiment préoccupant, c'est l'hypothèse «taille unique», et si cette technologie est fiable. Dans l'autre lettre à Zoom, les experts ont averti qu'un tel système est basé sur la pseudoscience en tant que machine l'apprentissage n'a pas vraiment prouvé qu'il était capable de comprendre les émotions humaines basées sur le visage expressions. Les experts ont en outre averti que malgré toutes ses bonnes intentions, un tel produit pourrait être déformé pour appliquer des actions punitives dans plus de domaines que le seul monde de l'entreprise, et ouvrira également la voie à une nouvelle industrie où l'analyse des émotions conduira à une manipulation numérique plus puissante et ouvrira les vannes pour récolter des utilisateurs extrêmement personnels Les données. Si appliqué, Zoom ajouterait une toute nouvelle dimension aux normes discriminatoires en matière d'IA.
La source: Lutte pour l'avenir, Protocole
La phase 4 a transformé la fin d'Eternals en un trou de complot MCU géant
A propos de l'auteur