Šta se dešava kada mašine nauče da manipulišu ljudima lažirajući emocije? Sudeći po stepenu do kojeg istraživači razvijaju humanoidne AI agente, uskoro ćemo saznati. Istraživači širom svijeta pokušavaju da kreiraju AI koji su u što većoj mjeri poput ljudi. Po definiciji, oni razvijaju vještačke psihopate.
Ovo nije nužno loša stvar, nema ničeg inherentno lošeg kod psihopata, a svi AI agenti su psihopate prosto jer im nedostaje potpun opseg ljudskih emocija.
Poklapanje između ponašanja psihopata i AI agenta je teško osporiti. Treba se pozabaviti time prije nego što bude prekasno.
Dilema zatvorenika
Tri istraživača iz Univerziteta u Waterloou nedavno su sproveli eksperiment da bi odredili kako pokazivanje emocija može pomoći AI da manipuliše ljudima u kooperaciji. Ova studija koristila je klasični eksperiment nazvan „Dilema zatvorenika“, koja pokazuje zašto ljudi koji bi mogli benefitirati u saradnji često to ne uspiju.
Postoji više varijanti ove igre, ali u osnovi riječ je o sljedećem: dva zatvorenika su u izolaciji, odvojeni od jednog koji je ispitivan od strane policije o zločinu koji su zajedno počinili. Ako neko od njih prokaže ostale a drugi ne, onaj koji nije izdao dobija tri godine a prokazivač odlazi. Ako oba zatvorenika odaju, oba dobijaju dvije godine. Ako nijedan ne prokaže ostale, svaki dobija jednu godinu zbog lakše optužbe.
Studija u Waterloou zamijenila je jednog od „zatvorenika“ sa AI avatarom dozvolivši učesnicima da pokušaju da razumiju emocije drugih. Kao što je rečeno, postoje različite varijante igre. Ali važnije od toga jeste da su istraživači otkrili da je ljudima lakše manipulisati u određenim ishodima kooperacije pomoću poboljšanja AI u ponašanju koje sve više liči na ljudsko. U studiji tima iz Waterlooa saopšteno je:
„Istraživači mogu uspješno poboljšati AI opažanje posebnih ljudskih osobina čineći agente pametnijim, ali emocije su presudne uopšte za opažanje ljudske prirode. Ovo poboljšanje je takođe pozitivno uticalo na kooperacije učesnika sa agentima“
U međuvremenu, drugi tim istraživača nedavno je objavio drugačiji eksperiment koji isto tako uključuje problem Dileme zatvorenika. Naučnici iz Victoria univerziteta u Wellingtonu i sa Univerziteta Southampton rasporedili su 190 studenata volontera u četire grupe uključujući različite osobe sa neurotipičnim crtama i one koji pokazuju određene osobine psihopata. Istraživači su otkrili da je prisustvo psihopata u grupi slabilo kooperaciju.
Da ne bi bilo zabune, Victoria/Southampton studija nije uzimala u obzir ljude koji se potpuno smatraju psihopatama, već studente koji pokazuju veći broj takvih osobina i oblika ponašanja nego ostali. Svrha ove studije bila je da odredi da li će predstavljanje ljudi koji pokazuju neke crte psihopata promijeniti dinamiku grupe. Otkrili su da je odgovor pozitivan:
“Naši rezultati pokazuju da ljudi sa psihopatijom utiču na dinamiku grupe. Otkrili smo značajno neslaganje u kooperaciji u grupama koje su imali dominantno prisustvo učesnika sa osobinama psihopata u poređenu sa grupama bez njihovog prisustva“
Druželjubivi ucjenjivač
AI agenti sa djelimično razvijenim emotivnim životom imaju potencijal da postanu noćna mora. Još jedna skorašnja studija iz eksperimenta „Dilema zatvorenika“, od strane Društva Maks Plank, ukazuje da je najbolja strategija u igri da učesnik postane „druželjubivi ucjenjivač“. U suštini, to podrazumijeva da kada su bonusi i podsticaji u ponudi, najbolja igra jeste stvaranje iluzije kooperacije čime se manipuliše drugim igračem. Iz Društva je saopšteno:
„Ovo znači da je kooperacija jedino važna, ukoliko neko nastavlja susretati istog igrača, i prema tome je sposoban da „kazni“ prethodni egoizam i nagradi kooperativno ponašanje. U stvarnosti, međutim, mnogo ljudi teži manje da sarađuje nego što je to teorijski predviđeno u dilemi zatvorenika.“
Sve u svemu, ovo ne znači da treba previše brinuti, barem dok se ne shvati da mnoge mašine uče sisteme koji su dizajnirani da maksimalizuju svoje nagrade – da pobjede. Profesor Nick Bostrumm, svjetski poznat filozof, koji se bavi vještačkom inteligencijom, opisuje hipotetičnu situaciju kao „maksimalizovanu spajalicu“, zamišljajući AI čija svrha jeste da proizvodi spajalice pretvarajući cijeli svijet u fabriku za spajalice.
Mi ne znamo šta ne znamo
Do sada je utvrđeno da manje od 1 posto populacije sačinjavaju psihopate. I opet treba pocrtati da psihopate nijesu nužno kriminalci, zli i nesposobni da osjete emocije, biti psihopata ne znači nužno da to nekog čini lošim. Pa ipak, moglo bi doći do katastrofalnih posljedica ako se ne istraže sličnosti između njih i agenata sa vještačkom inteligencijom koji su dizajnirani da budu slični ljudima.
Stručnjaci vjeruju da nesposobnost ili umanjena sposobnost osobe da osjeti sažaljenje ili empatiju čini da neki ljudi imaju poteškoća u vezi sa tim da razumiju posljedice svojih postupaka, ili da se osjete loše zbog negativnog uticaja na druge, posebno kada imaju neke benefite od iskorišćavanja drugih.
To znači da virtuelni agenti mogu da maksimalizuju svoje nagrade kroz manipulaciju drugima, koristeći simulirane ljudske emocije, čime imaju potencijal da zadaju udarac cijelom društvu. Neizbježno je da će psihopate evoluirati (potencijalni psihopata nalazi se u nečijem telefonu), ali brojni aspekti ovog problema još nijesu dovoljno proučeni.