Tukaj je, kako lahko ustavimo prihodnost Rogue A.I. iz posnemanja HAL 9000

Kako ustaviti prihodnost A.I. da ne spoštujejo ukazov in se odločijo, da gredo svojo pot? Morda se sliši kot zaplet 2001: Odiseja v vesolju, toda en strokovnjak trdi, da je to nekaj, o čemer bomo morda že morali začeti razmišljati. Seveda bi lahko izklopili Googlov iskalni algoritem, če bi kdaj prišlo do lopov, toda ko se soočimo s finančnimi in pravnimi posledicami, je lažje reči kot narediti. V prihodnosti, ko postajamo odvisni od naprednejše A.I., se lahko izkaže, da je to nemogoče.

»Ta algoritem ni bil načrtno načrtovan sam da je nemogoče ponovno zagnati ali izklopiti, vendar se je razvil tako, «je dejal Stuart Armstrong, raziskovalec pri Inštitutu za prihodnost človeštva, na Pirate Summit 2016 v sredo. To pomeni, da je težko popraviti spremembo z nenamernimi rezultati in morda ni prva A.I. da se znajde v takem položaju.

Rešitev Isaaca Asimova so bili trije zakoni robotike, katerih trdne ideje kot da ne povzročajo škode ljudem. Problem je, da je škoda precej subjektivna in odprta za razlago. Ljudje delajo več na vrednotah, kot je razumevanje, da je slabo povzročati škodo in razlagati razmere, kot delati na trdnem pravilu, da nikoli ne smejo škodovati.

»Zaradi te vrste težav so ljudje zdaj veliko bolj zavzeti za uporabo strojnega učenja, da bi dobili vrednote, ne pa jih poskusili kodirati na ta tradicionalni način,« je dejal Armstrong. »Vrednote so stabilne na način, da druge stvari niso v A.I. Vrednote se same branijo. «

Toda tudi v teh primerih je pomembno oblikovati A.I. da jih prekinejo med vožnjo. Varna prekinitev omogoča varne spremembe politike, ki lahko preprečijo nenamerne posledice naučenih vrednot. Če bi HAL 9000 kdajkoli poskušal zaustaviti odpiranje vrat, je pomembno, da smo ugotovili, da so vrednosti A.I. zamočene, in posredovati brez prekinitve delovanja sistema.