Kako bi novi center UC Berkeley lahko preprečil A.I. Apokalipsa

Kalifornijska univerza v Berkeleyju je pravkar dodala svoje ime vse večjemu številu uglednih institucij, ki si prizadevajo preprečiti, da bi zlonamerna umetna inteligenca uničila človeštvo. Njen novi center za umetno inteligenco, ki je združljiv s človekom, je napovedan v ponedeljek, da bi zagotovil, da bo A.I. ostaja koristna, in tudi za izključitev A.I. apokalipso.

Berkeleyjeva lastna A.I. strokovnjak, profesor Stuart Russell, vodi podjetje. Projekt »Odprta filantropija« je Centru zagotovil 5,5 milijona dolarjev donacij, drugi pa so tudi dobili pomoč. Nekaj ​​drugih strokovnjakov iz Berkeleyja, Univerze Cornell in Univerze v Michiganu bo služilo kot so-glavni raziskovalci.

Profesor Cornell Bart Selman je za to povedal Inverse o centru, A.I.s, da smo treba strah in zakaj svet verjetno ne gre v pekel v ročni košarici - še.

Kaj upate, da boste dosegli s Centrom za človekove kompatibilne A.I.?

Ti centri so relativno nov razvoj. Ljudje vlagajo - na primer, Inštitut za prihodnost življenja ima investicijo Elona Muska iz Tesle - za obravnavo vprašanj o prihodnosti življenja in možnih nevarnosti za prihodnost življenja in družbe. Novi center v Berkeleyju je še en primer takega inštituta.

Navdihuje ga spreminjajoča se vloga umetne inteligence in računalništva v naši družbi. Te tehnologije se gibljejo v našo družbo in bodo vplivale na nas. Ti inštituti so tu, da združijo raziskovalce, da preučijo možne negativne vplive ali kako zagotoviti, da ni negativnih vplivov.

Sam naslov Centra kaže, da je A.I. in človeštvo je po naravi nezdružljivo. Je to vaše mnenje?

To je prva reakcija, ki jo imajo ljudje, da so te stvari lahko nezdružljive. Dejansko verjamemo, da lahko z ustreznimi previdnostnimi ukrepi in ustreznimi smernicami in raziskavami resnično uskladimo interese in zagotovimo, da so te tehnologije koristne. A.I. tehnologija ima ogromne pozitivne strani, cilj družbe pa je zagotoviti, da ostanemo na pozitivnih straneh. Raziskovalci, ki sodelujejo v inštitutu, menijo, da je to izvedljivo.

Če bi lahko sprejeli perspektivo doomayerja, kakšen naj bi bil najverjetnejši scenarij sodobnega pohoda, ki ga je povzročil A.I.

Jasno tveganje bi bil vojaški razvoj umetne inteligence, ki bi lahko vodil do dirkanja orožja z orožjem A.I. med državami: avtonomno orožje, avtonomne dronove, ki sledijo svojim lastnim ukazom, ki so jih razvile različne države, ki so sovražne. To je najbolj konkretno tveganje, ki ga vidim. Mislim, da sem A.I. razviti za avtomobile, ki se sami vozijo, na primer - za redne vloge v družbi - bodo zelo koristni. Toda vojaški vidik je zaskrbljujoča komponenta.

Je to že težka bitka?

Države dejansko razmišljajo o tem vprašanju. V določenem smislu je to težka bitka: vojska se zavzema za razvoj A.I. tehnologije. Vendar so bili sklenjeni sporazumi - na primer, biološko orožje je verjetno najbolj znan primer - kjer so se države na neki točki odločile, da bi to koristilo vsem državam ne razviti biološko orožje v velikem obsegu. Upamo, da bodo države spoznale, da je slaba stran za vse prevelika, da bi lahko šla v popolno A.I. orožje.

Če obe strani razvijeta to tehnologijo, nihče ni pred nami.

Ali moram še kaj vedeti o Centru ali o zlonamerni A.I. na splošno?

Pomembno je dati pozitivno stran. Lahko je poudariti tveganja - in seveda deloma zato, ker so ti centri vzpostavljeni - vendar je prav tako pomembno poudariti, da veliko raziskovalcev meni, da je to tveganje obvladljivo in da bodo vzroki ogromni.

Vi ste že dali perspektivo sodnega dne. Katere so nekatere potencialne pozitivne uporabe A.I. za kaj ste res navdušeni?

Pozitivna stran bo družba, kjer nam ta tehnologija pomaga. Prevajanje simultanega govora - med kitajščino in angleščino, na primer - kjer lahko ljudje samo pogovarjajo, kot da govorijo materni jezik, drug z drugim po svetu. Oskrba starejših: Ljudje lahko ostanejo tako dolgo, kot si želijo v svojem domu, ker imajo robota za pomočnika v gospodinjstvu, ki jim pomaga samostojno živeti.

To bo verjetno imelo precej dramatičen vpliv na življenje na splošno - kar zadeva zaposlovanje, in kaj prednostno obravnavamo.

Da. Razprava o zaposlovanju je nekakšna ločena razprava. Zagotovilo bo dovolj sredstev za podporo vsem, zato je vprašanje, kako zagotoviti, da bodo vsi imeli koristi od tega razvoja. Ponovno se bo spoznalo, kaj pomeni delati, kakšno delo bodo ljudje naredili. Toda načeloma bodo ljudje imeli več svobode in več časa za opravljanje dejavnosti, ki jim je všeč, saj bodo stroji pomagali pri številnih drugih svetovnih, delo -Tip stvari. Trajalo bo nekaj časa, vendar verjamemo, da se bo družba prilagodila in počasi vključevala te spremembe.

Ta intervju je urejen zaradi jasnosti in jedrnatosti.