Umjetna inteligencija, nadziranje i kontrola
Stuart Russell, profesor na Berkeleyju, jedan je od vodećih svjetskih stručnjaka za umjetnu inteligenciju autor je izvrsne knjige Kao čovjek - umjetna inteligencija napredak ili prijetnja? Područje njegovih istraživanja obuhvaća vrlo raznolike teme koje se kreću od načina strojnog učenja do filozofskog promišljanja, koje mu daju širinu da sagleda, pa i predvidi neke od posljedica razvoja umjetne inteligencije na budućnost čovjeka. Možda je jedno od najvažnijih pitanja koja on postavlja: Znači li ova ubrzana stopa napretka da će nas ubrzo zamijeniti strojevi?
Odgovor je, barem zasad, ne, ali iza toga ne krije se štošta. Stvaranje nadljudski inteligentnih strojeva mogla bi biti dosad najveća prekretnica u ljudskoj povijesti, no mogla bi istodobno biti i posljednja. Iz knjige prenosimo dio:
Nadziranje, uvjeravanje i kontrola
Istočnonjemački Ministerium fur Staatsicherheit, koji bolje poznajemo pod nazivom Stasi, naširoko se smatra „jednom od najučinkovitijih i najrepresivnijih tajnih policijskih Agencija u povijesti.” Vodio je spise o velikoj većini istočnonjemačkih kućanstava. Nadzirao je telefonske razgovore, otvarao i čitao pisma i podmetao skrivene kamere u stanove i hotele. Bio je neumoljivo učinkovit u identificiranju i eliminiranju disidentskih aktivnosti. Njegov je omiljeni modus operandi bilo psihološko uništavanje, a ne zatvorske kazne ili smaknuća.
Međutim, ta je razina kontrole nosila veliku cijenu: prema nekim procjenama više od četvrtine odraslih građana bili su doušnici Stasija. Dokumentacija koju su prikupili procjenjuje se na dvadeset milijardi stranica, a zadatak procesiranja tih golemih tokova podataka – a zatim i djelovanja na temelju toga znanja – u jednom je trenu postao prevelik zalogaj za bilo koju ljudsku organizaciju.
Zato nas ne bi trebalo iznenaditi da su obavještajne službe uočile potencijal umjetne inteligencije za svoje potrebe. Već dugi niz godina one primjenjuju jednostavne oblike tehnologije umjetne inteligencije, kao što je prepoznavanje glasova i identificiranje ključnih riječi i fraza u govornom i tekstualnom obliku. Sustavi umjetne inteligencije sve bolje razumiju što ljudi govore i rade, bilo u govoru, tekstu ili na videosnimkama. U režimima u kojima se ta tehnologija upotrebljava radi kontrole, svaki će građanin imati vlastitog operativca Stasija koji ih promatra dvadeset i četiri sata na dan.
Čak i u građanskoj sferi u relativno slobodnim državama i dalje smo pod sve učinkovitijom prismotrom. Korporacije prikupljaju i prodaju podatke o našoj kupnji, korištenju internetom i društvenim mrežama, upotrebi električnih kućanskih aparata, telefonskim pozivima i porukama, zaposlenju i zdravstvenom stanju. Naša se lokacija može pratiti preko naših mobitela i automobila spojenih na internet. Kamere prepoznaju naše lice na ulicama. Sve te podatke, i još mnogo drugih, inteligentni sustavi za integraciju podataka mogu spojiti i proizvesti gotovo potpunu sliku svega što radimo, kako živimo, koga volimo i ne volimo, i za koga ćemo glasati. Stasiji u usporedbi s time izgledaju kao amateri.
Kontrola nad vašim ponašanjem
Kad se ti sustavi nadziranja uspostave, idući je korak modificirati vaše ponašanje kako bi odgovaralo onima koji upravljaju tom tehnologijom. Jedna relativno neprofinjena metoda svodi se na automatizirane i personalizirane ucjene: sustav koji razumije što radite – tako što vas prisluškuje, promatra ili čita što pišete – vrlo lako može uočiti sve ono što ne biste trebali raditi. Kad nešto pronađe, počet će se dopisivati s vama u pokušaju da od vas iskamči što više novca (ili vas natjera na neki oblik ponašanja, ako mu je cilj politička kontrola ili špijunaža). Zarađivanje novca na taj način savršen je signal nagrade za algoritam pojačanog učenja, pa možemo očekivati da će se sustavi umjetne inteligencije brzo popraviti u sposobnosti da identificiraju neželjene oblike ponašanja i na njima profitiraju. Početkom 2015. godine rekao sam jednom stručnjaku za računalnu sigurnost da bi automatizirani sustavi za ucjenjivanje, potaknuti pojačanim učenjem, ubrzo mogli postati upotrebljivi. On se samo nasmijao i rekao da se to već događa. Prvi bot za ucjenjivanje o kojem se naširoko raspravljalo bio je Delilah, identificiran u srpnju 2016. Nešto je suptilniji način da utječemo na ljudsko ponašanje modificiranje informacija dostupnih u njihovom okolišu, čime ćemo ih natjerati da promjene uvjerenja i donose drukčije odluke. Naravno, oglašivači to rade već stoljećima, utječući tako na kupovne odluke pojedinaca. Propaganda kao oružje rata i političke dominacije ima još i dulju povijest.
Što se onda promijenilo danas? Kao prvo, budući da sustavi umjetne inteligencije na internetu mogu pratiti čitalačke navike pojedinca, njegove preferencije i vjerojatnu razinu znanja i informiranosti, mogu oblikovati specifične poruke koje će imati maksimalni učinak na tog pojedinca, a pritom minimizirati rizik da će njihova informacija biti odbačena kao neistina. Kao drugo, sustav umjetne inteligencije zna je li pojedinac pročitao poruku, koliko ju je dugo čitao, i je li slijedio druge poveznice priložene u poruci. Zatim se koristi tim signalima kao povratnim informacijama o uspjehu ili neuspjehu svojeg pokušaja da utječe na svakog pojedinca; time brzo uči kako biti što učinkovitiji u svojem zadatku. Na taj su način algoritmi za odabir sadržaja na društvenim medijima postigli svoj perfidni utjecaj na politička mišljenja.
Nedavno je došlo do još jedne promjene: kombinacijom umjetne inteligencije, računalne grafike i sinteze govora moguće je generirati takozvane deepfake snimke: realistične videozapise i audiozapise na kojima bilo koja osoba može govoriti ili raditi bilo što. Ubrzo ta tehnologija neće zahtijevati ništa više od verbalnog opisa željenog događaja, pa će je stoga moći upotrebljavati gotovo bilo tko na svijetu.
Snimka na kojoj Senator X prihvaća mito od dilera kokainom Y u nekom sumnjivom lokalu? Nema problema. Takvi sadržaji mogu stvoriti nepokolebljivo uvjerenje u događaje koji se nikada nisu zbili. Nadalje, sustavi umjetne inteligencije mogu stvoriti milijune lažnih identiteta – takozvane vojske botova – koje svakog dana mogu proizvesti milijarde komentara, tweetova i preporuka, i time nadglasati pokušaje stvarnih ljudskih bića da razmijene istinite informacije. Online tržnice kao što su eBay, Taobao i Amazon, koje se oslanjaju na sustave reputacije kako bi izgradile povjerenje između kupaca i prodavača neprekidno su u ratu s vojskama botova čiji je cilj zagaditi tržišta.
Postoji nekoliko problema s tom linijom razmišljanja. Prvo, ona zanemaruje psihički danak življenja pod jarmom sustava koji te neprestano i neumoljivo motri i prisiljava na određene oblike ponašanja: vanjski sklad koji prikriva unutarnju bijedu daleko je od idealnog stanja države. Svako dobro djelo prestaje biti dobro djelo i postaje promišljeni potez u svrhu maksimiziranja osobne ocjene, a kao takvog ga doživljava i osoba kojoj ste iskazali to dobročinstvo. Ili još gore, sami koncept dobrovoljnog dobrog djela postupno postaje samo davno sjećanje na nešto što su ljudi nekoć davno činili.
U takvom sustavu posjet bolesnom prijatelju u bolnicu gubi svaki moralni značaj i emocionalnu vrijednost i postaje ništa više od zaustavljanja na crvenom svjetlu. Kao drugo, takav sustav pati od istog nedostatka kao i standardni model umjetne inteligencije jer pretpostavlja da je zadani cilj istovjetan istinskoj, pozadinskoj svrsi.
Neizbježno će prevladati Goodhartov zakon, po kojem pojedinci optimiziraju službenu mjeru vanjskog ponašanja, baš kao što su sveučilišta naučila optimizirati „objektivna” mjerila „kvalitete” koja upotrebljavaju sustavi za rangiranje sveučilišta, umjesto da rade na poboljšanju svoje stvarne (ali nemjerljive) kvalitete. Naposljetku, nametanje uniformiranih mjerila željenog ponašanja zanemaruje činjenicu da se uspješno društvo može sastojati od širokog spektra različitih pojedinaca, od kojih svaki pridonosi na vlastiti način.
