Više od jedne trećine istraživača vjeruje da bi vještačka inteligencija (AI) mogla da dovede do “katastrofe na nuklearnom nivou”, navodi se u istraživanju Univerziteta Stanford, u kojem se naglašava zabrinutost u sektoru zbog rizika koje predstavlja tehnologija koja brzo napreduje.
Istraživanje je jedno od otkrića istaknutih u Izvještaju o indeksu vještačke inteligencije za 2023, koje je objavio Stanfordski institut za vještačku inteligenciju usmjerenu na čovjeka, koje istražuje najnoviji razvoj, rizike i prilike u rastućem području vještačke inteligencije.
– Ovi sistemi pokazuju sposobnosti u odgovaranju na pitanja i generisanju teksta, slike i koda nezamislive prije deset godina, i nadmašuju stanje tehnike na mnogim mjerilima, starim i novim – navode autori izvještaja.
Međutim, kako dalje tvrde, oni su skloni halucinacijama, rutinski su pristrani i mogu se prevariti da služe podlim ciljevima, naglašavajući komplikovane etičke izazove povezane s njihovim korištenjem.
Izvještaj, koji je objavljen ovih dana, dolazi usred sve većih poziva na regulaciju vještačke inteligencije nakon kontroverzi koje sežu od samoubistva povezanog s chat botom do deep fake snimka ukrajinskog predsjednika Volodimira Zelenskog koji se čini da se predaje ruskim snagama.
Revolucionarne promjene
Prošlog mjeseca, Elon Musk i suosnivač Applea Steve Wozniak bili su među 1.300 potpisnika otvorenog pisma u kojem se poziva na šestomjesečnu pauzu u obuci AI sistema iznad nivoa Open AI-jevogchatbotaGPT-4 jer se “snažni AI sistemi trebaju razvijati samo kada budemo uvjereni da će njihovi učinci biti pozitivni i da će se njihovim rizicima moći upravljati”.
U anketi istaknutoj u Izvještaju o indeksuvještačke inteligencije za 2023, ukupno 36odsto istraživača reklo je da bi odluke donesenevještačkom inteligencijom mogle dovesti do katastrofe na nuklearnom nivou, dok je 73 posto reklo da bi uskoro mogle dovesti do “revolucionarne društvene promjene”.
U anketi je učestvovalo 327 stručnjaka za obradu prirodnog jezika, grane kompjuterske nauke koja je ključna za razvojchatbotakao što je GPT-4, između maja i juna prošle godine, prije nego što je izdanje Open AI's ChatGPT-a u novembru zaludilo svijet tehnologije.
U Ipsosovoj anketiopšte javnosti, koja je takođe istaknuta u indeksu, činilo se da su Amerikanci posebno oprezni premavještačkoj inteligenciji, sa samo 35 posto koji se slažu da “proizvodi i usluge koji koristevještačku inteligenciju imaju više prednosti nego nedostataka”, upoređenju sa 78 posto kineskih ispitanika, 76 posto ispitanika iz Saudijske Arabije i 71 posto ispitanika iz Indije.
Veća regulacija
Stanfordski izvještaj takođe navodi da se broj “incidenata i kontroverzi” povezanih svještačkom inteligencijom povećao 26 puta tokom prošle decenije.
Vladini potezi za regulaciju i kontroluvještačke inteligencije dobijaju na snazi.
Kineska uprava za cyber prostor ove je sedmice objavila nacrt propisa za generativnuvještačku inteligenciju, tehnologiju koja stoji iza GPT-4 i domaćih rivala poput Alibabinog Tongyi Qianwena i BaiduovogchatbotaErnie, kako bi se osiguralo da se tehnologija pridržava “temeljne vrijednosti socijalizma” i da ne potkopava vladu.
Evropska unija predložila je “Akt ovještačkoj inteligenciji” kojim bi se regulisalo koje su vrste AI prihvatljive za korišćenje, a koje bi trebale biti zabranjene.
Stajališta u SAD-u koja se odnose navještačku inteligenciju tek treba pretočiti u savezne propise, ali Bajdenova administracija ove je sedmice najavila pokretanje javnih konsultacija o tome kako osigurati da su “sistemivještačke inteligencije zakoniti, efikasni, etični, sigurni i na drugi način pouzdani”.