Чи весь штучний інтелект має бути відкритим і що насправді зміниться?
Відкритий код штучний інтелектзнову в полі зору громадськості. Нещодавно Ілон Маск розпалив ще одну дискусію навколо тактики, коли він поручився за відкритий вихідний код алгоритмів Twitter для підвищення прозорості та сприяння свободі слова. Але балачки навколо цієї теми вже деякий час є невід’ємним елементом розробки ШІ. Перш ніж приступати до дрібниць, важливо спочатку зрозуміти значення терміна та його основні значення. У сфері розробки програмного забезпечення вихідний код програмного забезпечення з відкритим кодом є загальнодоступним, що дозволяє будь-якій зацікавленій стороні переглядати, змінювати та поширювати його. У двох словах, це децентралізований спільний шлях до розробки програмного забезпечення.
Linux, WordPress, Mozilla Firefox і медіаплеєр VLC є одними з добре відомих прикладів програмного забезпечення з відкритим кодом, які залишають тривалий вплив. Відкритий код має деякі важливі переваги, як-от прискорені темпи розробки та розгортання програмного забезпечення, оскільки немає перешкод для зацікавлених сторін чи навіть ентузіастів. Ще одним фундаментальним аспектом є рецензування та прийняття спільнотою, що дозволяє експертам критикувати та допомагати покращувати проект без будь-яких корпоративних бар’єрів. Зайве говорити, що спільноти з відкритим кодом прискорюють темпи інновацій. Але найбільшою перевагою, особливо коли йдеться про таку суперечливу тему, як штучний інтелект, є прозорість.
На поверхні, зберігаючи ШІ розробка, близька до корпоративної скриньки, і перекриття її законами про інтелектуальну власність придушують інновації. Коли проект штучного інтелекту розробляється серед близького кола співробітників, незалежно від того, наскільки він перспективний чи просунутий, для цього потрібно набагато більше часу, тому що йому не вистачає зовнішнього зворотного зв’язку, який міг би дозволити команді вирішити більше проблем, ніж вони передбачили для демонструвати. Але штучний інтелект — це не лише швидкість впровадження інновацій або вирішення більшої кількості проблем, ніж спочатку запропоновано на слайді корпоративної презентації. Різноманітність – і упередженість – стали одним із найскладніших аспектів створення інклюзивних продуктів ШІ. Незважаючи на те, що це передовий продукт штучного інтелекту, створений такими лідерами, як Google і Microsoft, програма штучного інтелекту, яка було розроблено в неінклюзивній атмосфері з відсутністю різноманітних навчальних даних майже завжди погано новини.
Це більше про те, коли та як це станеться
Наприклад, чат-боту Microsoft Tay знадобилося всього кілька днів, щоб перетворитися на вигрібну яму расистських ідей. Те ж саме сталося з Delphi AI. Dall-E 2, улюблений гарячий малюк у блоці AI, який створює круті картинки на основі тексту описів, також дає результати, які підтримують гендерні стереотипи щодо людей колір і жінки. Сем Альтман, генеральний директор компанії, що стоїть за DALL-E 2, назвав це «найприємніша річ», створеного OpenAI, але дослідження показують, що деякі результати не такі вже й чудові. OpenAI також знає про це, і визнав проблему на DALL-E 2 GitHub сховище. Для цього також є певний прецедент. З китайського конгломерату Xiaomi відкриває вихідний код свого веселого кібер-собака проекту для такого фінансового гіганта, як Goldman Sachs здача в оренду сторонні інженери майструють частину системи управління цінами та ризиками на базі машинного навчання, то вже є певний прецедент.
У світі, який активно взаємодіє з продуктами таких титанів, як Google, Amazon, Apple, Meta та Microsoft, відкритий вихідний код для продуктів на основі штучного інтелекту є надзвичайно важливим. Візьмемо, наприклад, уявний алгоритм модерації контенту на основі штучного інтелекту, який навчили за закритими дверима з використанням даних, отриманих переважно із західної демографічної групи. Це може спрацювати, але коли мова заходить про модерування мільярдів медіафайлів, які просуваються сотнями мільйонів користувачам з різними рисами обличчя та мовами, як-от призначена система модерації на основі ШІ хитатися. Однак це не уявне занепокоєння, оскільки Facebook піддався ретельній перевірці через нехтування такими неанглійськими, неамериканськими ринками, і таке невігластво призвело до жахливих результатів. У світі, який все більше використовує системи на базі ШІ все, починаючи від сортування резюме кандидатів для роботи з оцінки запитів на позики та житло система, яка не є інклюзивною, матиме серйозні наслідки в реальному світі.
Просто подивіться, як налаштовано алгоритми на таких платформах, як TikTok та Instagram завіси, щоб підтримувати зацікавленість користувачів, надаючи їм нескінченний потік вмісту, який курує a поведінковий ШІ. Програми штучного інтелекту з відкритим кодом не тільки прискорять темпи розробки, але й гарантуватимуть, що продукти штучного інтелекту з такими критичний вплив не розгортаються до певного мозкового штурму з різноманітною групою, щоб будь-які лазівки чи проблеми були розглянуті в час завершення. На додаток до ШІ з відкритим кодом, експерти також вимагали регулювання, створення етичних консорціумів для запобігання зловживанням ШІ, а також розробка фінансованих урядом ініціатив, які можуть підтримати експертів, які хочуть ретельно досліджувати та вдосконалювати продукти ШІ, які щодня впливатимуть на життя людей.
Джерела: Forbes, GitHub, The Wall Street Journal
Ідеальне шоу для перегляду, поки чекаєте на 4 сезон Академії Амбрелла
Про автора