Zoom möchte Ihre Emotionen verfolgen, das sollten Sie wissen

Ein Kollektiv von 28 Menschenrechtsorganisationen hat darauf gedrängt Zoomenseine Arbeit an einem Emotions-Tracking-System einzustellen, das darauf abzielt, das Engagement und die Gefühle der Benutzer zu analysieren. Natürlich klingt die Idee von Anfang an aufdringlich, aber es ist nicht das erste Projekt dieser Art, wenn es um das Endziel geht. Es gibt bereits eine Menge Softwareprodukte für Telearbeiter, die im Auftrag von Arbeitgebern alles von Mausklicks bis hin zu Webaktivitäten verfolgen.

Diese Produkte haben bereits geteilte Meinungen, aber die Überwachung der Benutzeraktivitäten erfolgt in allen Formen und Formen und manchmal aus äußerst ahnungslosen Quellen. Eine kürzlich durchgeführte Untersuchung ergab, dass eine gesunde Anzahl von Apps für psychische Gesundheit und Meditation, die sich mit Data Mining beschäftigen und an Dritte zu Werbezwecken übergeben. Aber der Umfang der Überwachung der Benutzeraktivitäten erweiterte sich in der Pandemie-Ära unter dem Deckmantel von Unternehmenslösungen zur Bewertung der Verfügbarkeit und Aufmerksamkeit der Mitarbeiter. Es scheint, dass Zoom, eine der größten Erfolgsgeschichten in dieser Ära dramatischer Arbeitsverschiebungen, auch an einem eigenen besorgniserregenden Projekt beteiligt war.

Fight for the Future zusammen mit 27 anderen Menschenrechtsorganisationen geschrieben einen offenen Brief an Zoom, in dem es aufgefordert wird, die KI-gesteuerte Emotionsverfolgungssoftware zu stoppen, die den Gesichtsausdruck von Videoanrufteilnehmern untersucht. Die Organisation klassifizierte die Software als „diskriminierend, manipulativ, potenziell gefährlich“ und weist weiter darauf hin, dass es auf der fehlerhaften Annahme beruht, dass Merkmale wie Stimmmuster, Gesichtsausdrücke und Körpersprache für alle Menschen gleich sind. Es gibt berechtigte Besorgnis hinter der Kritik, als Gesicht Erkennungsalgorithmen und andere KI-basierte Produkte haben sich als fehleranfällig erwiesen, wenn es um die Verarbeitung von Bildern geht, die farbige Menschen und unterschiedliche Körperformen darstellen. Laut einem Bericht von Protokoll, arbeitet der Gigant für Videokonferenzen an einem Produkt namens Zoom IQ, das dem Gastgeber eines Meetings nach Beendigung des Anrufs einen sogenannten Stimmungsanalysebericht anbietet.

Eine neue Ära des KI-gesteuerten Trackings

Es gibt Unternehmen wie Uniphore und Sybill, die Berichten zufolge Produkte entwickeln, die darauf abzielen, KI zur Überwachung des menschlichen Verhaltens während Videoanrufen in Echtzeit zu nutzen. Zoom hingegen soll nach Möglichkeiten suchen, ein solches System in sein Produktportfolio aufzunehmen. “Dies sind Informationssignale, die nützlich sein können; sie sind nicht unbedingt entscheidend“, wurde Josh Dulberger, Head of Product (Data and AI) bei Zoom, zitiert. Trotz des vorsichtigen Ausblicks der Zoom-Führungskraft ist die Idee, dass KI Gesichtsausdrücke analysiert und Stimmungen von Teilnehmern eines Videoanrufs bewertet, ziemlich beunruhigend, um es milde auszudrücken. Die Bedenken sind berechtigt, und nach Jahren der Interessenvertretung von Experten und Aktivisten, die Auch die US-Regierung hat sich für die Idee aufgewärmt Künstliche Intelligenz zu regulieren.

Während die Prämisse des Eindringens in die Privatsphäre mit dem Produkt von Zoom sicherlich Alarmglocken läuten lässt, ist die Annahme „eine Größe passt für alle“ wirklich besorgniserregend und ob eine solche Technologie überhaupt zuverlässig ist. In dem anderen Brief an Zoom warnten Experten davor, dass ein solches System auf Pseudowissenschaft als Maschine basiert Das Lernen hat sich nicht wirklich als fähig erwiesen, menschliche Emotionen auf der Grundlage von Gesichtszügen zu verstehen Ausdrücke. Davor warnten die Experten weiter trotz aller guten Absichten, könnte ein solches Produkt für die Durchsetzung von Strafmaßnahmen in mehr Bereichen als nur der Unternehmenswelt verdreht werden und wird auch den Weg für a ebnen neue Branche, in der die Emotionsanalyse zu einer stärkeren digitalen Manipulation führen und die Schleusen für die Ernte extrem persönlicher Benutzer öffnen wird Daten. Wenn durchgesetzt, Zooms Produkt würde diskriminierenden KI-Normen eine ganz neue Dimension hinzufügen.

Quelle: Kämpfe für die Zukunft, Protokoll

Phase 4 hat das Ende von Eternals in ein riesiges MCU-Handlungsloch verwandelt

Über den Autor