Vai visam mākslīgajam intelektam vajadzētu būt atvērtam avotam un kas patiesībā mainītos?

Atvērtā avota iegūšana mākslīgais intelektsatkal ir sabiedrības redzeslokā. Īlons Masks nesen izraisīja vēl vienas debates par šo taktiku, kad viņš apsolīja atvērtā avota Twitter algoritmus, lai palielinātu pārredzamību un veicinātu vārda brīvību. Taču pļāpāšana par šo tēmu jau kādu laiku ir bijusi neatņemama AI attīstības sastāvdaļa. Pirms iedziļināties sīkumos, vispirms ir svarīgi saprast termina nozīmi un tā galvenās sekas. Programmatūras izstrādes jomā atvērtā pirmkoda programmatūras pirmkods ir publiski pieejams, ļaujot jebkurai ieinteresētajai pusei to skatīt, modificēt un izplatīt. Īsumā, tas ir decentralizēts un sadarbīgs ceļš uz programmatūras izstrādi.

Linux, WordPress, Mozilla Firefox un VLC multivides atskaņotājs ir daži no labi zināmiem atvērtā pirmkoda programmatūras piemēriem, kas atstāj ilgstošu ietekmi. Atvērtajam pirmkodam ir dažas būtiskas priekšrocības, piemēram, paātrināts programmatūras izstrādes un ieviešanas ātrums, jo ieinteresētajām personām vai pat entuziastiem nav šķēršļu. Vēl viens būtisks aspekts ir pārskatīšana un sabiedrības pieņemšana, kas ļauj ekspertiem kritizēt un palīdzēt uzlabot projektu bez jebkādiem korporatīvajiem šķēršļiem. Lieki piebilst, ka atvērtā pirmkoda kopienas paātrina inovācijas tempu. Taču lielākā priekšrocība, it īpaši, ja runa ir par tādu šķelmīgu tēmu kā mākslīgais intelekts, ir caurspīdīgums.

Uz virsmas, saglabājot AI attīstība, kas ir tuvu korporatīvajai lādei, un tās nolikšana aiz intelektuālā īpašuma likumu barjerām nomāc inovācijas. Ja AI projekts tiek izstrādāts ciešā darbinieku lokā, neatkarīgi no tā, cik daudzsološs vai attīstīts tas ir, tas prasīs daudz vairāk laika, jo tai trūkst ārējas atgriezeniskās saites cilpas, kas ļautu komandai atrisināt vairāk problēmu, nekā tā ir paredzējusi. projektu. Taču mākslīgais intelekts nav saistīts tikai ar inovāciju tempu vai vairāk problēmu risināšanu, nekā sākotnēji tika piedāvāts uzņēmuma prezentācijas slaidā. Daudzveidība – un neobjektivitāte – ir kļuvuši par vienu no vissarežģītākajiem aspektiem iekļaujošu AI produktu radīšanā. Neskatoties uz to, ka tas ir visprogresīvākais AI produkts, ko izstrādājuši tādi līderi kā Google un Microsoft, AI programma, kas ir izstrādāta neiekļaujošā atmosfērā ar apmācību datiem, kuriem trūkst daudzveidības, gandrīz vienmēr ir slikti ziņas.

Tas ir vairāk par to, kad un kā tas notiks

Piemēram, Microsoft Tay tērzēšanas robotam vajadzēja tikai dažas dienas, lai kļūtu par rasistisku ideju krājumu. Tas pats notika ar Delphi AI. Dall-E 2 — iecienītākais mākslīgais intelekts, kas rada lieliskus attēlus, pamatojoties uz tekstu apraksti, ir arī radījis rezultātus, kas atbalsta dzimumu stereotipus pret cilvēkiem krāsa un sievietes. Sems Altmans, uzņēmuma DALL-E 2 izpilddirektors, to nosauca par "apburošākā lieta”, ko līdz šim ir izveidojis OpenAI, taču pētījumi liecina, ka daži rezultāti tomēr nav tik apburoši. Arī OpenAI to zina un ir atzinis DALL-E 2 problēmu GitHub krātuve. Tam ir arī kāds precedents. No Ķīnas konglomerāta Xiaomi piedāvā savu jautro kibersuni, izmantojot atklāto avotu projektu finanšu gigantam, piemēram, Goldman Sachs izīrēšana ārējie inženieri strādā ar dažām tās cenu pārvaldības un riska pārvaldības sistēmām, kas tiek darbinātas ar ML, jau ir jāsāk precedents.

Pasaulē, kas ļoti sadarbojas ar tādiem titānu produktiem kā Google, Amazon, Apple, Meta un Microsoft, ar AI darbināmu produktu atvērtā avota nodrošināšana ir ļoti svarīga. Ņemiet, piemēram, iedomātu ar AI darbinātu satura moderēšanas algoritmu, kas ir apmācīts aiz slēgtām durvīm, izmantojot datus, kas galvenokārt iegūti no Rietumu demogrāfijas. Tas varētu darboties, bet, ja runa ir par miljardu multivides failu regulēšanu, ko spiež simtiem miljonu lietotājiem ar dažādiem sejas vaibstiem un valodām, piemēram, uz AI balstīta moderēšanas sistēma ir paredzēta klibot. Tomēr tās nav iedomātas bažas, jo Facebook ir rūpīgi pārbaudījis, vai tiek atstāti novārtā tādi tirgi, kas nav Anglijas, ne Amerikas tirgi, un šīs nezināšanas dēļ ir radušies daži briesmīgi rezultāti. Pasaulē, kurā arvien vairāk tiek izmantotas ar AI darbināmas sistēmas viss, sākot no kandidātu CV kārtošanas attiecībā uz darbu līdz aizdevuma un ar mājokli saistītu pieprasījumu novērtēšanai sistēmai, kas nav iekļaujoša, būs dažas nopietnas sekas reālajā pasaulē.

Vienkārši apskatiet, kā algoritmi tādās platformās kā TikTok un Instagram ir noregulēti plīvuri, lai piesaistītu lietotājus, nodrošinot viņiem nebeidzamu satura straumi, ko veido a uzvedības AI. Atvērtā avota AI programmas ne tikai palielinās attīstības ātrumu, bet arī nodrošinās, ka AI produkti ar kritiskā ietekme netiek izmantota pirms prāta vētras ar daudzveidīgu paneli, lai visas nepilnības vai problēmas tiktu novērstas noteiktais laiks. Papildus atvērtā avota AI, arī eksperti pieprasījuši regulējumu, ētikas konsorciju izveide, lai novērstu ļaunprātīgu izmantošanu AIun valdības finansētu iniciatīvu izstrāde, kas var atbalstīt ekspertus, kuri vēlas rūpīgi pārbaudīt un uzlabot AI produktus, kas ikdienā ietekmēs cilvēku dzīvi.

Avoti: Forbes, GitHub, The Wall Street Journal

Ideāls šovs, ko skatīties, gaidot lietussargu akadēmijas 4. sezonu

Par autoru