OpenAI podjetja Elon Musk je lahko mišičen za varno raziskavo umetne inteligence

Skozi konec tedna so Elon Musk, Sam Altman in druge silicijeve doline nepričakovano napovedali ustanovitev neprofitnega podjetja OpenAI, ki opisuje svoj cilj kot: »napredovanje digitalne inteligence na način, ki bo najverjetneje koristil človeštvu kot celoti, omejena s potrebo po ustvarjanju finančnega donosa."

»Ker je naša raziskava brez finančnih obveznosti, se lahko bolje osredotočimo na pozitiven človeški vpliv. Verjamemo A.I. biti razširitev posamezne človeške volje in, v duhu svobode, čim širše in enakomerneje porazdeljena. “

Obstajata dve glavni zavzetosti iz te objave. Prvi je, da Musk in podjetje vidita A.I. raziskave so zdaj preozko osredotočene na doseganje kratkoročne praktične vrednosti in želijo pomagati pri prizadevanjih, ki si prizadevajo za širši in celovitejši pristop k razvoju A.I. sistemov. Drugi, bolj prikrit prevzem je, da je Musk še vedno zaskrbljen zaradi potenciala A.I., da škoduje, če bomo razvili in uvedli pol pečene sisteme. Musk se je prej imenoval A.I. „Naša največja eksistencialna grožnja“ in predlagali, da bo morda potreben regulativni nadzor za preprečitev morebitnih nevarnosti. OpenAI bi lahko bil način zagotavljanja tega nadzora brez potrebe po zveznem nadzorniku.

Kaj delajo Musk in njegovi kolegi, kar se razlikuje od tistega, kar so drugi storili. Konec koncev, odprta koda A.I. ni nič novega. Google je izdelal svoje A.I. odprtokodne programske opreme prejšnji mesec in to je postalo dokaj standarden postopek. Toda z 1 milijardo dolarjev je OpenAI že ena največjih organizacij, ki delajo na A.I. raziskav in zelo enostavno največja neprofitna organizacija. Njen cilj je javno objaviti rezultate in vse brezplačne patente. Imajo korenček in palico, ki jo nameravajo uporabiti za usmerjanje industrije.

Ideja je, da se OpenAI uporablja kot nekakšna protiutež večjim korporacijam, zasebnim raziskovalnim laboratorijem in celo svetovnim vladam, ki imajo neverjetne količine denarja in sredstev, ki jih lahko v svoje A.I. raziskave, ki morda niso namenjene prijateljskim namenom, in bi namesto tega lahko vodile do tehnologij z neobičajnimi aplikacijami. Raziskovalci, ki delajo z OpenAI, bodo v bistvu nadaljevali "prijazno" A.I. brez pritiska, da bi pokazali takojšnje rezultate. Obstaja več pozornosti za varnostne in oblikovne značilnosti, ki bi jih zasebna podjetja lahko zanemarila. Tam ne bo belega stolpa, kjer le nekaj izbranih nadzoruje pot A.I. razvoj. Vsakemu bo dobrodošel svet.

V intervjuju z Zadnji kanal, Musk poudarja tudi željo po izdelavi široke palete A.I. sistemov. »Želimo si A.I. biti razširjen, ”pravi. "Verjamemo, da je veliko dobro."

To je pomembno, ker se umešča v morda glavni razlog, ki ga Musk in Altman želita demokratizirati A.I. Verjamejo, da je najboljša vrsta A.I. - tista, ki bo pozitivno vplivala na človeštvo, ne da bi ustvarila robotske vladarje - je vrsta, ki deluje kot »razširitev posamezne človeške volje«, kot pravi Musk. Nadalje pravi:

»Kot v A.I. podaljšanje sebe, tako da je vsaka oseba v bistvu simbiotična z umetno inteligenco, v nasprotju s tem, da je AI velika osrednja obveščevalna služba, ki je druga vrsta. Če razmišljate o tem, kako uporabljate, recimo, aplikacije na internetu, imate svoj e-poštni naslov in imate socialne medije ter aplikacije na telefonih - dejansko vas naredijo nadčloveško in ne mislite, da so biti drugi, misliš na njih kot na podaljšek sebe. Torej, do te mere, da lahko usmerjamo UI v tej smeri, želimo to storiti. Našli smo številne inženirje in raziskovalce na področju AI, ki se počutijo podobno."

V bistvu, vizija OpenAI za A.I. Raziskave so decentralizirana skupnost, ki pomaga povezati ljudi z drugimi in s samim svetom.

Musk še ni opisal, kako bi preprečil, da bi se raziskave v okviru OpenAI same - ali pa jih preusmerile zunanje skupine - odpravile v nevarno smer. Tukaj je še nekaj, kar je vredno omeniti: Open source sistemi so smiselni le, če se podatki, ki se uporabljajo za izdelavo algoritmov za strojno učenje, prosto delijo. Inteligentni sistem mora učiti kako biti inteligenten in za to se mora naučiti iz podatkov in izkušenj. Kot pri gradnji jezu - potrebujete tako načrte (algoritem) kot gradbene materiale (podatke), da bi dejansko naredili nekaj, kar bo ustavilo vodo.

Zato so ljudje še vedno omejeni na to, kaj lahko storijo z Googlovim TensorFlowom - še nimajo podatkov, ki jih ima Google. In če sodelovanje, zgrajeno iz OpenAI, ne bo omogočalo prostega dostopa do istih podatkov, s katerimi delajo interni raziskovalci, Muskova vizija ne bo nujno uresničena - ali vsaj ne na način, kako jo spodbuja.

Musk, Altman in drugi ustanovitelji OpenAI so začeli nekaj, kar bo imelo velik vpliv na rast A.I. od tu naprej. Hkrati pa bodo morali biti odkriti v svoji zavezi, da bodo spodbujali raziskovalno skupnost odprte kode, kar pomeni, da bodo javno razpravljali o svojih načrtih za neprofitno podjetje in bili pripravljeni deliti podatke. V nasprotnem primeru se OpenAI ne bo precej razlikoval od podjetij, ki jih je oblikovala za črede.