Projekt OpenAI Elona Muska je identificiral 4 velike težave za AI

Večina težav, ki bi lahko izhajale iz bolj izpopolnjene umetne inteligence, je veliko bolj subtilna kot SkyNet, vendar to ne pomeni pametnejšega A.I. ne prihaja brez tveganj.

Zato so Elon Musk in druge silicijeve doline oblikovali Open AI, skupino, ki je posvečena reševanju problemov z A.I. preden lahko povzročijo resno škodo. Ta skupina se imenuje OpenAI in išče pomoč pri teh vprašanjih.

"OpenAI je neprofitno raziskovalno podjetje za umetno inteligenco," pravi skupina na strani About. "Naš cilj je napredovati na področju digitalne inteligence na način, ki bo najverjetneje koristil človeštvu kot celoti, ne da bi ga omejevala potreba po ustvarjanju finančnega donosa."

Objava delovnega mesta, prikrita kot objava na blogu z naslovom »Posebni projekti«, opisuje štiri takšne »projekte« kot težave, ki imajo »bodisi zelo široke posledice« ali pa se nanašajo na »pomembne nastajajoče posledice razvoja AI«. In potem njegovi pisatelji - Ilya Sutskever, Dario Amodei in Sam Altman - povabita vse močne strokovnjake za strojno učenje, da "začnejo prizadevati za enega od teh problemov v OpenAI-ju." Tu so štirje veliki problemi, s katerimi se sooča umetna inteligenca:

Iskanje prikritih sistemov AI.

Kaj je slabše od zelo pametnega A.I. ki se lahko uporabi za napačen namen? Zelo pameten A.I. ki se že uporablja za napačen namen, ne da bi kdorkoli vedel. "Ker se število organizacij in virov, dodeljenih raziskavam AI, povečuje, se verjetnost poveča, da bo organizacija naredila nepričakovan preboj AI in uporabila sistem za potencialno zlonamerne cilje," piše ekipa OpenAI v svojem blogu. »Zdi se pomembno to zaznati. Lahko si predstavljamo veliko načinov za to - gledanje novic, finančnih trgov, spletnih iger itd.

Izdelava A.I. ki lahko programirajo.

Nekateri najboljši programerji so leni. Zato je smiselno, da OpenAI želi ustvariti A.I. samostojno ustvarjanje programov. Bolje je, da preživite čas, da naredite A.I. dovolj pametni, da kodirate vse, kar boste morda potrebovali v prihodnosti, kot da boste vse te stvari sami kodirali. To je leto 2016, za kričanje glasno, in koder potrebuje odmor!

Uporaba A.I. za kibernetsko obrambo.

»Zgodnja uporaba AI bo vdrla v računalniške sisteme,« piše OpenAI. "Želimo si, da bi se AI tehnike branile pred prefinjenimi hekerji, ki uporabljajo veliko metod AI." To zveni dobro, še posebej, ker je MIT opozoril, da je trenutni A.I. za zaščito pred kibernetskimi napadi.

Izdelava zapletenih simulacij.

"Zainteresirani smo za izgradnjo zelo velike simulacije z veliko različnimi agenti v njej, ki lahko komunicirajo med seboj, se učijo v daljšem časovnem obdobju, odkrivajo jezik in dosežejo veliko različnih ciljev," piše ekipa OpenAI.

Daj no. Zdaj poskušate dokazati, da je Musk prav glede nas, ki živimo v simulaciji.