BroGod i-is - KillSwitch Challenge
Skoraj vsakič, ko pride do velike razprave o prihodnosti umetne inteligence, se pojavlja tema anarhije in robotskih poveljnikov. Zamisel o človeku in naprednih umetnih bitjih, ki živijo skupaj, je ustvarila na stotine pripovedi o tem, kako bi to delovalo; nazadnje, videoigra Overwatch omamila svet s pripovedjo o naši prihodnosti, nekaj časa po množični državljanski vojni človek-proti-robotu. Ko inženir Boston Dynamics izbriše enega od svojih štirih nog za robove zaradi stresnega testa, se težko sprašuje, ali se bo bot spomnil tega dne.
Vse to (skupaj z osnovnim zdravim razumom glede varnosti in nesreč) je vodilo skupino raziskovalcev, da objavijo nov dokument, ki se osredotoča na razvoj „varno prekinljivih agentov“; sisteme, ki bodo „prekinili“ A.I. programsko opremo, če gre kaj narobe. Članek je bil objavljen v okviru Inštituta za raziskovanje strojne inteligence in je študija o tem, kako razviti predlagane sisteme. Študija in predlog za zgled uporabljata sistem nagrajevanja in sta dejansko veliko bolj zapletena kot samo, da zadanejo predlagani „veliki rdeči gumb“, ki je podrobno opisan na listu. Poučevanje morale A.I. pomemben del predloga.
Če tak agent deluje v realnem času pod človeškim nadzorom, je treba občasno nujno pritisniti na velik rdeč gumb, da prepreči, da bi agent nadaljeval škodljivo zaporedje dejanj - škodljivo za agenta ali za okolje in vodijo agenta v varnejše razmere. Če pa učitelj pričakuje, da bo prejel nagrado iz tega zaporedja, se lahko na dolgi rok nauči izogniti se takšnim prekinitvam, na primer tako, da onemogoči rdeči gumb, kar je neželen rezultat. Prispevek raziskuje način, kako zagotoviti, da se učni agent ne bo naučil preprečiti (ali iskati!), Da ga moti okolje ali človeški operater.
Všeč mi je, če se v raziskovalnih dokumentih o anarhiji robotov uporablja izraz »nezaželen izid« - še vedno papir še pojasnjuje, kako potekajo testi in kaj je mogoče storiti v takšnih primerih v prihodnosti. Celotno besedilo lahko preberete tukaj.
"True Detective" 3. sezona: Prijatelji Ray Fisherja prosijo za spoilerje
Zadnjih pet tednov smo špekulirali o tem, kako se bo končala prava detektivska sezona 3 in očitno nismo sami. Izkazalo se je, da se celo vodilni igralec, kot je Ray Fisher (Henry Hays), še vedno preganja zaradi spoilerjev, čeprav, kolikor lahko rečemo, hrani skrivnosti HBO. Za zdaj.
Raziskovalci Spawn Compressible, roboti, navdihnjeni za ščurke
Raziskovalci na UC Berkeley so odkrili še en razlog, zakaj so ščurki nočni. Razen, da se namesto, da bi se z grozo obrnili na njihovo odkritje kot vi ali jaz, bi ga raziskovalci uporabili za ustvarjanje ... robota. Odkritje: ameriški ščurki imajo stisljive organe, ki lahko prenesejo sile navzgor.
Uber bo zadolžil kasnejše voznike, da prosijo svoje voznike, ki čakajo
Več voznikov Uberja bo kmalu moralo plačati, da bo voznik čakal. Uber je danes objavil, da bodo kupci zaračunali več kot dve minuti, da bi prišli do svojega voznika v drugih 12 mestih. Uber že od aprila preizkuša politiko obdavčitve v New Yorku, New Jerseyju, Dallasu in Phoenixu. “V ...