Sollte alle KI Open Source sein und was würde sich tatsächlich ändern?

Open-Sourcing von künstliche Intelligenzsteht wieder im Fokus der Öffentlichkeit. Elon Musk löste kürzlich eine weitere Debatte über die Taktik aus, als er sich für Open-Sourcing der Twitter-Algorithmen einsetzte, um die Transparenz zu erhöhen und die Meinungsfreiheit zu fördern. Doch das Geschwätz rund um das Thema ist längst fester Bestandteil der KI-Entwicklung. Bevor man ins Wesentliche einsteigt, ist es entscheidend, zunächst die Bedeutung des Begriffs und seine wichtigsten Implikationen zu verstehen. Im Bereich der Softwareentwicklung ist der Quellcode von Open-Source-Software öffentlich zugänglich, sodass jeder Interessierte ihn einsehen, ändern und verteilen kann. Kurz gesagt, es ist ein dezentralisierter und kollaborativer Weg zur Softwareentwicklung.

Linux, WordPress, Mozilla Firefox und VLC Media Player sind einige der bekannten Beispiele für Open-Source-Software, die einen bleibenden Eindruck hinterlässt. Open Source hat einige entscheidende Vorteile, wie z. B. eine beschleunigte Softwareentwicklung und -bereitstellung, da es keine Barriere für Stakeholder oder sogar Enthusiasten gibt. Ein weiterer grundlegender Aspekt ist die Überprüfung und Akzeptanz durch die Gemeinschaft, die es Experten ermöglicht, ein Projekt ohne Unternehmensbarrieren zu kritisieren und zu verbessern. Unnötig zu erwähnen, dass Open-Source-Communities das Innovationstempo beschleunigen. Aber der größte Vorteil, gerade wenn es um ein umstrittenes Thema wie Künstliche Intelligenz geht, ist die Transparenz.

An der Oberfläche halten KI Entwicklung nahe an der Unternehmensbrust und hinter Schranken der Gesetze zum geistigen Eigentum zu stellen, erstickt Innovation. Wenn ein KI-Projekt in einem engen Kreis von Mitarbeitern entwickelt wird, egal wie vielversprechend oder fortgeschritten es ist, dauert es eine viel mehr Zeit, weil es keine externe Feedback-Schleife gibt, die es einem Team ermöglichen könnte, mehr Probleme zu lösen, als sie sich für das vorgestellt haben Projekt. Aber bei KI geht es nicht nur um das Innovationstempo oder das Lösen von mehr Problemen als ursprünglich auf einer Unternehmenspräsentationsfolie vorgeschlagen. Vielfalt – und Voreingenommenheit – haben sich als einer der herausforderndsten Aspekte bei der Entwicklung integrativer KI-Produkte herausgestellt. Obwohl es sich um ein hochmodernes KI-Produkt handelt, das von führenden Unternehmen wie Google und Microsoft stammt, ist ein KI-Programm das in einer nicht-inklusiven Atmosphäre mit Trainingsdaten ohne Vielfalt entwickelt wurde, ist fast immer schlecht Nachrichten.

Es geht mehr darum, wann und wie es passieren wird

Beispielsweise brauchte Microsofts Chatbot Tay nur wenige Tage, um zu einer Jauchegrube rassistischer Ideen zu werden. Dasselbe geschah mit der Delphi-KI. Dall-E 2, das beliebteste heiße Kind im KI-Block, das coole Bilder basierend auf Text erstellt Beschreibungen, hat auch Ergebnisse hervorgebracht, die Geschlechterstereotype gegen Menschen von stützen Farbe und Frauen. Sam Altman, CEO des Unternehmens hinter DALL-E 2, nannte es „das Entzückendste“, die bisher von OpenAI erstellt wurde, aber Untersuchungen legen nahe, dass einige der Ergebnisse doch nicht so erfreulich sind. OpenAI weiß es auch und hat das Problem bei DALL-E 2 erkannt GitHub Repository. Auch dafür gibt es Präzedenzfälle. Aus chinesischem Konglomerat Xiaomi veröffentlicht seinen lustigen Cyber-Hund Projekt an einen Finanzgiganten wie Goldman Sachs vermieten Externe Ingenieure basteln an einigen seiner ML-gestützten Preismanagement- und Risikomanagementsysteme herum, es gibt bereits einige Präzedenzfälle, um damit anzufangen.

In einer Welt, die sich intensiv mit Produkten von Titanen wie Google, Amazon, Apple, Meta und Microsoft beschäftigt, ist Open-Sourcing für KI-basierte Produkte von entscheidender Bedeutung. Nehmen Sie zum Beispiel einen imaginären KI-gestützten Algorithmus zur Moderation von Inhalten, der hinter verschlossenen Türen mit Daten trainiert wurde, die hauptsächlich aus der westlichen Bevölkerungsgruppe stammen. Es könnte funktionieren, aber wenn es darum geht, Milliarden von Mediendateien zu moderieren, die von Hunderten von Millionen gepusht werden Benutzer mit unterschiedlichen Gesichtszügen und Sprachen, wie z. B. ein KI-basiertes Moderationssystem, sind dazu bestimmt stocken. Es ist jedoch keine imaginäre Sorge, da Facebook eine intensive Prüfung für die Vernachlässigung solcher nicht-englischen, nicht-amerikanischen Märkte angestrengt hat, mit einigen schrecklichen Ergebnissen, die aus dieser Ignoranz resultieren. In einer Welt, die zunehmend KI-gestützte Systeme für alles vom Aussortieren der Lebensläufe der Kandidaten Für einen Job zur Bewertung von Kredit- und wohnungsbezogenen Anfragen wird ein nicht-inklusives System einige ernsthafte Auswirkungen auf die reale Welt haben.

Schauen Sie sich einfach an, wie Algorithmen auf Plattformen wie TikTok und Instagram hinterher getunt wurden Schleier, um die Benutzer zu beschäftigen und ihnen einen endlosen Strom von Inhalten zuzuführen, der von a Verhaltens-KI. Open-Sourcing-KI-Programme werden nicht nur die Entwicklungsgeschwindigkeit erhöhen, sondern auch sicherstellen, dass KI-Produkte mit solchen Kritische Auswirkungen werden erst nach einem Brainstorming mit einem diversen Gremium eingesetzt, damit alle Schlupflöcher oder Probleme angesprochen werden fällige Zeit. Neben Open-Sourcing-KI, Experten haben auch eine Regulierung gefordert, die Einrichtung von Ethik-Konsortien, um Missbrauch zu verhindern KI, und die Entwicklung von staatlich finanzierten Initiativen, die Experten unterstützen können, die KI-Produkte, die das Leben der Menschen täglich beeinflussen werden, untersuchen und verbessern wollen.

Quellen: Forbes, GitHub, Das Wall Street Journal

Die perfekte Show, die Sie sich ansehen sollten, während Sie auf die 4. Staffel der Umbrella Academy warten

Über den Autor