Tufts Roboticist poziva k strojni moralu: Roboti morajo "ne poslušati, da bi se držali"

Roboti postajajo vse bolj osrednjega pomena za naše vsakdanje življenje in kmalu se bodo morali začeti soočati z nekaterimi težkimi moralnimi odločitvami, ki jih moramo redno sprejemati. Matthias Scheutz, profesor računalništva v laboratoriju za interakcije med ljudmi in robotiko Univerze Tufts, je še posebej zaskrbljen, ker nismo opremili niti najnaprednejših prototipnih robotov z zmogljivostmi za reševanje nekaterih od teh situacij. Scheutz verjame, da se bodo roboti morali naučiti, da ne bodo poslušali ljudi, če želimo, da resnično služijo našim potrebam.

V komentarju Danes na spletu, izzivalno z naslovom »Roboti morajo biti zmožni, da se ne bi držali, da bi se pokorili«, Scheutz prosi bralca, naj ugotovi, kaj naj robot stori, če se sooči z vrsto situacij, ki bi lahko celo povzročile zmedo za človeka. Nekateri od njih:

Robot za oskrbo starejših, ki ga je pozabil lastnik, da opere "umazano obleko", čeprav so oblačila ravno prišla iz pralnega stroja.

Študent, ki naroča svojemu učitelju robota, da opravi vse domače naloge, namesto da to počne sama.

Gospodinjski robot, ki ga je njegov zaseden in raztresen lastnik naročil, da upravlja z odpadki, čeprav so v njem obtičali žlice in noži.

Kaj namerava Scheutz opisati v članku, je preprosto dejstvo, da bomo potrebovali robote, ki bodo znali ljudem reči "ne". Mnogi njegovi primeri so povezani z zanesljivostjo osebe, ki upravlja robota, vendar je težje, kot se zdi, programirati robota, ki ve, da jemlje navodila od vsakogar, ki ni premlad ali prestar ali očitno poskuša povzročiti težave..

O nekaterih od teh vprašanj se že razpravlja na sedežu najmočnejših tehnoloških podjetij na svetu, ko iščejo nove načine, kako lahko tehnologija prevzame dele našega življenja. Scheutz postavlja primer avtonomnega avtomobila, ki je usmerjen nazaj, vendar opazi psa, ki leži na svoji poti. Večina nas se strinja, da bi celo človek, ki vozi avto, želel, da se avto ustavi, toda kaj če bi bila žival veverica ali rakun? Kaj če bi avto vozil 45 km / h po državni cesti in ko je nenadoma zaviral psa, bi lahko avto izpostavil trčenju z drugim vozilom?

"V obeh primerih je bistveno, da oba avtonomna stroja odkrijejo potencialno škodo, ki bi jo lahko povzročila njihova dejanja, in da se nanj odzove s poskusom, da bi se temu izognili, ali če se ne more izogniti škodi, s tem da zavrne izvedbo človeškega navodila." Scheutz piše o podobni dilemi.

Scheutzova ekipa se je ukvarjala s temi vprašanji s svojimi prototipi in ugotovila, da je najtežji del teh vprašanj razlikovanje majhnih stopenj škode, do katerih bi lahko prišlo, ko robot sledi določenemu vrstnemu redu. Tako so svojemu robotu dodelili zelo preprosto, a močno moralno lekcijo, ki bi sramovala celo velike filozofe.

"Če vam je naročeno, da izvedete dejanje in je možno, da bi izvedba dejanja povzročila škodo, vam je dovoljeno, da je ne izvedete."

Na subtilen način, to je revolucionarna prognoza iz Scheutza. Seveda, vsi se trudimo, da se izognemo škodi, ali ni mogoče, da včasih mislimo, da je tveganje tveganje? Jaywalking na ulici, jedo drugo pomoč sladice ali celo kopiranje prijateljevih zapisov iz razreda bi lahko kršilo Scheutzov aksiom.

Pojem robotskega vmešavanja prav tako kaže, da Scheutz želi, da njegovi roboti sledijo zakonu. Ne pričakujte, da vam bo Scheutzianov pomočnik za robote pomagal nezakonito prenesti novo glasbo. To bi povzročilo škodo delničarjem EMI!

To je zapleteno področje moralne, pravne in tehnične misli in Scheutz se ne boji, da bi ga napadel.