Preprečite robotsko apokalipso z razmišljanjem o tem A.I. Vprašanje morale

Obstaja vprašanje moralne robotike in scenarij, na katerega je treba odgovoriti, da bi umetna inteligenca napredovala.

Predstavljajte si, da je robot, ki nadzoruje rudniški jašek, in se zaveda, da je voziček napolnjen s štirimi človeškimi rudarji, ki se izločijo iz nadzora. Robot se lahko odloči, da premakne tirnice in ubije enega neznanega rudarja, s čimer shrani štiri v vozičku ali obdrži sledi taki, kakršni so, in omogoči štirim rudarjem, da naletijo na zid in umrejo. Katero bi izbrali? Bi se vaš odgovor spremenil, če bi bil eden od njih otrok namesto tega? Če na to ne moremo odgovoriti, kako programiramo robote za to odločitev?

To so bila vprašanja udeležencem in občinstvu na svetovnem festivalu znanosti v New Yorku z naslovom »Moralna matematika robotov: ali je mogoče odločiti o življenju in smrti?« Večina se je odločila, da bo voziček usmerila proti enemu rudarju in spremenila osebo. za otroka ni spremenilo misli mnogih anketirancev, vendar ni bilo enotno in človeške moralne odločitve pogosto niso.

To je bil hud primer z bojem, s katerim se bo človeštvo spopadalo, ko bo umetna inteligenca še naprej napredovala in se bomo spoprijeli z možnostjo programiranja robotov z moralnostjo.

"Koncept, kot je škoda, je težko programirati," je dejal Gary Marcus, profesor psihologije in nevronske znanosti na NYU in CEO in soustanovitelj Geometric Intelligence, Inc. odgovarjamo na program in trenutno nimamo dobrega niza morale za robote izven Asimovih zakonov, ki so bili predstavljeni v filmih, kot so iRobot.

Rekel je, da je to bistvo, da se je pridružil panelu, da začne pogovor o tem, kako naj se spoprimemo z robotsko moralo.

Elon Musk je ta teden razpravljal o svoji skrbi glede umetne inteligence, tako daleč, da je predlagal, da vsi živimo v nekakšni simulaciji Matrica in da bi ljudje morali vlagati v neuralno čipko, ki se bo pritrdila na možgane in povečala človeške kognitivne sposobnosti. Drugi futuristi, kot je Stephen Hawking, so opozorili na nevarnosti A.I. in ta teden je Matt Damon to opozoril med svojim začetkom na MIT.

Drugi scenariji so vključevali militarizirane avtonomne orožne sisteme in kako bomo moralno in filozofsko obravnavali te človeške odločitve na bojišču, pa tudi, kakšne odločitve bodo morda imele avtonomne avtomobile v ne tako daljni prihodnosti.

Panelisti niso dosegli soglasja o tem, kaj storiti, vendar so povedali, da imajo A.I. ogromne koristi. ki jih ne bi smeli zavreči skozi okno samo zato, ker so ta vprašanja težka. Predlagali so, da se o teh vrstah moralnih vprašanj o rudarjih pogovarjamo še bolj odprto in da se bomo morda bližali preprečevanju robotske apokalipse.