Elon Musk pravi DARPA A.I. Hekerski izziv bo vodil v Skynet

$config[ads_kvadrat] not found

Artificial Intelligence Colloquium: Assurance for Machine Learning

Artificial Intelligence Colloquium: Assurance for Machine Learning
Anonim

Agencija za obrambne napredne raziskovalne projekte je pred kratkim napovedala Cyber ​​Grand Challenge, turnir, sestavljen iz sedem ekip, 3,75 milijona dolarjev, ki se konča v Las Vegasu avgusta. Navedeni cilj DARPA je najti nove strategije za boj proti kibernetski vojni, vendar ga Elon Musk ne kupuje. Pravzaprav misli, da nas bo Cyber ​​Grand Challenge morda pustil z nekaj podobnim Skynetom, sovražnim A.I. ki rutinsko poskuša uničiti človeštvo v. t Terminator franšize. Musk je v četrtek zjutraj tweetal ne tako prikrito opozorilo - in to ni prvič, da se bori kot zlonamerni superračunalnik.

Na papirju želi DARPA zgraditi avtomatizirano umetno inteligenco, ki je sposobna odkrivati ​​in reševati napake v računalniškem varnostnem sistemu. V bistvu želijo ustvariti nenadzorovano, avtonomno A.I. izredni heker, ki bo zaznal ranljivosti sistema in jih sam popravil. Kakor danes stoji, seveda, ljudi opravljajo pogosto nehvaležne dolžnosti kibernetske varnosti. Strokovni hekerji so spretni pri iskanju in določanju občutljivosti, toda ker je spletna vojna bolj razširjena, lahko njihovo povpraševanje po njihovih veščinah preseže ponudbo. Postopek določanja napake, piše DARPA, "lahko traja več kot eno leto od prvega odkrivanja do uvajanja rešitve, do česar bi lahko prišlo do kršitve kritičnih sistemov."

Povpraševanje po hitrih popravkih vedno prisotnih varnostnih vprašanj še naprej narašča, saj vedno več vsakodnevnih naprav posreduje informacije prek interneta. DARPA trdi, da je kibernetska varnost A.I. Sistem bi bil »prva generacija strojev, ki lahko v realnem času brez kakršne koli pomoči odkrivajo, dokazujejo in popravljajo napake v programski opremi«, s čimer postane celoten svet varnejši.

Ali, vedite, to bi lahko privedlo do sistematičnega uničenja človeštva v hladnih kovinskih rokah strojev.

@TheHackersNews @defcon Vse je zabavno in do …

- Elon Musk (@elonmusk) 14. julij 2016

Muskova tweeta se lahko zdi, kot da je v šali, vendar ima dolg zapis, da je čuvaj proti nevarnostim izredno močne umetne inteligence. Podpisal je odprto pismo, ki je opozorilo na A.I. in je tehnologijo poimenoval "največja eksistencialna grožnja".

Musk ve, da je to DARPA izziv verjetno Skynet ne bo ustvaril, vendar se mu zdi pomembno, da ljudje razmislijo o možnosti zlonamerne umetne inteligence. Ko bomo kot družba sprostili takšno zver, pravijo usodilci, ne bo več nazaj.

$config[ads_kvadrat] not found