A.I. Strokovnjak Virginia Dignum: Problem vozička prikazuje, zakaj potrebujemo preglednost

$config[ads_kvadrat] not found

Princes of the Yen: Central Bank Truth Documentary

Princes of the Yen: Central Bank Truth Documentary
Anonim

Umetna inteligenca potrebuje preglednost, da jo ljudje lahko obdržijo na račun, je trdil raziskovalec. Virginia Dignum, izredna profesorica na Univerzi za tehnologijo v Delftu, je v petek na obisku na Univerzi v New Yorku povedala, da če ne bomo razumeli, zakaj stroji delujejo tako, kot smo, jih ne bomo mogli presojati.

Dignum je citiral zgodbo Davida Berneya, znanstvenika in raziskovalca, ki je bil objavljen leta 2006 Psihologija danes: "Dokazi kažejo, da kadar ljudje delajo s stroji, se počutijo manj smiselno, kot delajo, ko delajo sami ali z drugimi ljudmi."

»Problem vozička«, je pojasnil Dignum, je področje, kjer lahko ljudje slepi vero v stroj izberejo pravi rezultat. Vprašanje je, ali naj se ročica preklopi na hipotetičnega pobeglega vlaka, tako da namesto petih ubije eno osebo. Ljudje pričakujejo, da bodo stroji reševali problem na najbolj racionalen način. Vendar to morda ni vedno tako in preglednost bi pomagala pojasniti, kako je stroj prišel do svoje odločitve.

"Ne gre le za zelo globoko, nevronsko mrežo dogodkov, ki jih nihče ne more razumeti, temveč jih mora razložiti na način, ki ga ljudje lahko razumejo," je dejala.

A.I. zaradi česar je njegovo delovanje jasno, je področje, ki ga DARPA raziskuje. Agencija je avgusta objavila napoved, da išče ekipe, ki jih zanima pojasnilo A.I. projektov, znanih kot XAI. Ti sistemi bodo raziskovalcem pomagali razumeti, zakaj je A.I. sprejel je odločitev, da je to storil, in dal več možnosti, da se odloči, kaj storiti s posledičnimi informacijami, namesto da bi slepo zaupal stroju.

Dignum je s strojnim učenjem ugotovil, da je preglednost bolj pomembna kot kdajkoli prej. »Ne moremo pričakovati, da se bodo sistemi, predvsem pa stroji za strojno učenje, takoj naučili in vedeli,« je dejala.„Ne pričakujemo, da bodo naši vozniki pri vožnji popolnoma razumeli prometne predpise. V mnogih državah uporabljajo te "L" plošče, da pokažejo: "Učim se, oprostite me za napake, ki bi jih lahko naredil." "Gledanje AI, razumevanje, kako pride do nekaterih odločitev in delovanje na podlagi tega, bo ključnega pomena za ustavljanje strojev, ki se še vedno učijo iz slabih odločitev.

$config[ads_kvadrat] not found