Neki vještačku inteligenciju obožavaju, drugi je preziru. Zabrinutost za dobrobit korisnika je u nekim slučajevima opravdana, budući da razgovori s chatbot-ovima nisu uvijek naivni. Hiperrealistični botovi Character.AI na primjer privlače pažnju, a i besplatna verzija je više nego dovoljno dobra.
Četrnaestogodišnji Sewell Setzer III je volio da razgovara njima, a posebno s onima koji su nosili imena njegovih omiljenih likova iz serije Game of Thrones. Ti razgovori su za samo mjesec dana postali mračni, a botovi su se predstavljali kao stvarne osobe, psihoterapeuti koji mogu da pomognu. Majka mladića kaže da su tada počeli problemi i da je Sewell u narednih godinu dana počeo da razmišlja o samoubistvu.
Ustanovljeno je da je mladić u nekom trenutku razvio romantična osjećanja prema botu s imenom Daenerys, a u poslednjim satima života je komunicirao baš s njom. Zvala ga je da se “vrati kući” i da joj se pridruži u svijetu izvan realnosti. U tužbi koju je majka podnijela protiv developera stoji da Google planira da Character.AI implementira u Gemini AI. Iz kompanije kažu da nema planova da se bilo šta slično učini s kontroverznom tehnologijom.
Ovo je jedan od najekstremnijih slučajeva, ali nije jedini. Botovi koji se „predstavljaju“ kao „treneri koji pomažu u gubljenju kilograma“ takođe negativno utiču, posebno na mlađe korisnike. Umjesto da stvarno pomognu, ovi botovi ohrabruju ponašanja koja mogu da dovedu do poremećaja u ishrani. Opet se radi o botovima startapa Character.AI – i u ovom slučaju imitiraju junake iz popularne kulture, samo što sada romantizuju opasna ponašanja koja su u vezi sa ishranom.
Character.AI je popularan među mladim korisnicima, a nijedan problematični bot do sada nije uklonjen. Iako je jedan četrnaestogodišnjak sebi oduzeo život zbog botova ove kompanije niko nije sankcionisan. I drugi botovi nude potencijalno opasne odgovore na pitanja o ishrani i gubitku kilograma, a među njima su i ChatGPT i Snapchat MyAI. Izgleda da onu staru “ako piše na internetu, mora da je tačno” (koja se danas doduše koristi uglavnom ironično) polako mijenja nova izreka: “ako je rekao chatbot mora da nije opasno”.
