OpenAI: Nekdanja firma Elona Muska je na robu novega A.I. Era

OpenAI, neprofitna organizacija, ki raziskuje umetno inteligenco, ki jo je leta 2016 ustanovil Elon Musk, je dosegla velik napredek - tudi po tem, ko se je Musk raztrgal sredi nesoglasij glede njegove smeri. Raziskovalci so razvili sisteme, ki lahko igrajo igre, pišejo članke novic in premikajo fizične objekte z revolucionarnimi stopnjami spretnosti.

OpenAI je s svojimi raziskavami povzročil polemiko. Prejšnji teden je napovedal razvoj jezikovnega modela GTP2, ki lahko ustvarja besedila z omejenimi pozivi. Glede na odziv, ki ga je napisal človek, "je bila Miley Cyrus danes ujeta v trgovini z Abercrombie in Fitchom na Hollywood Boulevardu", je sistem ustvaril resnično popolno zgodbo, ki se je nadaljevala z '' 19-letno pevko je ujela kamera, ki je bila pospremljena iz trgovine. varnostnikov."

Prav tako je ustvaril to izvirno zgodbo o govorjenem enriconu, ki temelji na kratkem pozivu:

»Z OpenAI nisem tesno sodeloval že več kot eno leto in nimam nadzora nad vodstvom ali nadzornim svetom,« je komentiral Musk na Twitterju čez vikend. »Moral sem se osredotočiti na reševanje boleče velikega števila inženirskih in proizvodnih problemov pri Tesli (zlasti) in SpaceX. Tudi Tesla je tekmoval za nekatere iste ljudi kot OpenAI in se nisem strinjal z nekaj, kar je želela ekipa OpenAI. Dodajte vse to in vse je bilo bolje, da se razdelite po dobrih pogojih."

Podjetje se je prvotno zdelo, da je Musk idealen način za doseganje svojih ciljev izkoriščanja A.I. za dobro človeštva. Podjetnik je že prej opozoril na "temeljno tveganje" za civilizacijo, ki jo predstavljajo super-pametni stroji, in poziva vlade, da uredijo "kot mi, kot smo hrana, droge, letala in avtomobili".

Musk je obljubil 10 milijonov ameriških dolarjev, da bi podjetje najprej ustanovil, njegova misija pa se osredotoča na "odkrivanje in uveljavljanje poti do varne umetne splošne inteligence."

Ni težko videti, kako bi lahko programi, ki ustvarjajo zgodbe, podobne tistemu, ki ga deli generalni direktor OpenAI-ja Greg Brockman, uporabili sorazmerno majhno število ljudi, da bi vplivali na mnenja manj zdrave javnosti.

Zaposleni v OpenAI-ju je izpisal vzorec, ki ga je napisal AI, in ga objavil v košu za recikliranje: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 14. februar 2019

"Zaradi naše skrbi zaradi zlonamernih aplikacij tehnologije, ne objavljamo usposobljenega modela," je pojasnila družba v blogu. »Kot poskus v odgovornem razkritju namesto tega sproščamo veliko manjši model za raziskovalce, s katerim lahko eksperimentiramo, kot tudi tehnični dokument.«

Napoved je vodila do pomislekov, da bi tehnologijo lahko uporabili za ustvarjanje lažnih novic. Analytics India je opozoril, da bo z bližajočimi se indijskimi volitvami pozneje v tem letu A.I. lahko uniči demokratični proces. Raziskovalci OpenAI sami trdijo, da bo v povezavi z raziskavami o proizvodnji sintetičnega zvoka in videa „javnost morala postati bolj skeptična glede besedila, ki ga najdejo na spletu“.

Ryan Lowe, A.I. Znanstvenik in nekdanji internist OpenAI je povzel grožnjo programa, kot je ta, da se uporablja za ustvarjanje ponarejenih novic, jedrnato v tem prehodnem Mediumu:

… Avtomatizirani sistem bi lahko: (1) omogočil slabim akterjem, ki nimajo sredstev za najemanje tisoč ljudi, da vodijo obsežne kampanje za dezinformacije; in (2) drastično povečanje obsega dezinformacijskih kampanj, ki jih že vodijo državni akterji.

Vse raziskave OpenAI se niso izkazale za tako sporne. Dactyl, predstavljen julija 2018, se lahko prilagodi fiziki realnega sveta in manipulira s predmeti v resničnem svetu. Robotska roka je zelo zapletena, z 24 stopinjami svobode, vendar lahko sistem preprosto premika predmete okoli s pomočjo treh RGB kamer in koordinat robotske roke.

Robotska roka izkoristi prednosti splošnih namenskih učnih algoritmov, ki se uporabljajo za premagovanje ljudi pri video igrah. Ekipa OpenAI Five se je soočila z ekipo profesionalcev Dota 2 Sistem je bil usposobljen v 180-letnih igrah in izkoristil osupljivih 128.000 procesorskih jeder in 256 grafičnih procesorjev. Medtem ko je premagala človeško ekipo bivših strokovnjakov in Twitch streamerjev, ni uspela proti profesionalnim igralcem.

Musk je uporabil Dota 2 skuša opozoriti na Neuralink, njegov načrt, da ustvari simbiotski odnos z A.I. povezovanje človeških možganov in izogibanje prevzemu robota:

Odlično delo @ OpenAI. Kmalu potrebujete nevronski vmesnik, da omogočite človeško / AI simbiozo.

- Elon Musk (@elonmusk) 6. avgust 2018

OpenAI je v svoji objavi besedilnega generatorja dejal, da namerava v šestih mesecih razpravljati o svoji širši strategiji. Podjetje upa, da bo spodbudila razpravo o nevarnostih umetne inteligence, ki bi lahko preprečila nekatere scenarije nesreč, ki jih je predvidel Musk. Toda celo podjetje priznava, da "ni prepričano, da je" zadržanje besedilnega generatorja danes prava odločitev. "Z razkolom, ki je že nastal med dvema velikima subjektoma, ki opozarjata na nevarnosti aviarne influence, je malo verjetno, da bodo zakonodajalci imeli preprost čas pri razvoju rešitev.