Ameriška vlada najema nekoga, ki bo gradil možgane

Pozorni znanstveniki: vlada si prizadeva zgraditi možgane.

Glede na nedavno objavo zaposlitve, urad direktorja nacionalne obveščevalne službe (ODNI) išče podoktorskega sodelavca, da bi preučil mehanizme bioloških nevronskih mrež (beri: možgani) in določil najučinkovitejše načine za njihovo zavajanje.

Jezik knjiženja je kliničen in ločen. Ampak ne naredi napake - to je lahko nekaj zlovešče stvari.

V bistvu ODNI želi, da bi raziskovalec ustvaril biološki analog do kontradiktorne nevronske mreže (ANN). ANN “je usposobljen za razvrščanje slik (ali drugih podatkov) z visoko stopnjo natančnosti. Nasprotni napad manipulira sliko zelo subtilno in povzroči, da je ANN napačno klasificirala podobo z visoko stopnjo zaupanja, «v skladu z objavo zaposlitve.

Podobne poskuse so izvajali tudi Googlovi znanstveniki, ki so vključevali AI. Umetna nevronska mreža je bila usposobljena za ustvarjanje portretov obrazov, druga mreža pa je bila usposobljena, da jih prepozna kot resnične ali izumljene. Cilj prvega omrežja je bil zavajati drugo omrežje. Vsakič, ko je bila generativna mreža neuspešna, je naredila nekaj manjših potez do portreta, ki ga je ustvarila. Vsakič, ko je bila razvrstitev omrežja neuspešna, je prilagodila merila, ki jih je preučevala, da bi izdala sodbo. Obe mreži sta se medsebojno razvijali in postajali bolj zapleteni in kompetentni pri opravljanju svojih nalog.

ODNI želi nekoga, ki lahko ugotovi, ali so biološke nevronske mreže dovzetne za podobne prevare, tako da lahko umetno razvrščanje nevronske mreže povzroči generativno.

Možgani lahko nepravilno kategorizirajo slike. Nekateri vizualni dražljaji lahko na primer zavedejo možgane do zaznavanja nečesa, kar ni tam, kot je optična iluzija ali primer pareidolije, kjer ljudje vidijo prepoznavne vzorce v naključnih stvareh. Proučevanje mehanizmov, ki so odgovorni za te pojave na nevronski ravni, lahko pomaga raziskovalcem ugotoviti, ali obstajajo načini, kako narediti možgane bolj odporne proti takim dražljajem. Ali pa morda, če obstajajo načini, kako narediti možgane bolj dovzetne za zaznavno mučenje.

Eden od načinov, da ugotovite, je, da sami zgradite možgane, ga naučite prepoznati in razvrstiti podobe, nato pa se lotiti dela z njim. To so vsaj predlagani prvi koraki ODNI. V skladu z objavo pa je ODNI „odprt za vse pristope“.

Druga mesta, ki se odpirajo na ODNI, vključujejo izdelavo drobnih robotov, ki lahko manevrirajo v ozkih prostorih in na grobih površinah ter manipulirajo s predmeti s »spretnostjo in visokimi silami«, in še enim delom, katerega namen je modeliranje »notranje nevarnosti« (dvojnega agenta) z nevralnimi mrežami.

Vse je v redu.