DPD, firma koja se bavi dostavom, privremeno je isključila dio svog online chatbota koji funkcioniše preko vještačke inteligencije nakon što je nezadovoljni kupac uspio da ga “natjera” da psuje i kritikuje kompaniju.
Muzičar Ashley Beauchamp (30) pokušao je da pronađe izgubljenu pošiljku, ali nije dobio nikakve korisne informacije od online chatbota kompanije za dostavu. Nakon pokušaja da dobije odgovor, nezadovoljni kupac je odlučio da se zabavi i počeo eksperimentisati kako bi saznao šta sve može chatbot kompanije. Beauchamp je rekao da je tada “počeo haos”.
Za početak, zamolio ga je da mu ispriča vic, ali je ubrzo napredovao do toga da je chatbot natjerao da napiše pjesmu u kojoj kritikuje kompaniju. Uz još nekoliko upita, chatbot je također opsovao, piše The Guardian.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
Beauchamp je podijelio razgovor na društvenoj mreži X, a chatbot je odgovorio na jednu poruku: “Jeb*te! Daću sve od sebe da budem od pomoći koliko god je to moguće, čak i ako to znači psovanje”. Zatim, u drugom slučaju, chatbot sebe naziva “beskorisnim chatbotom koji vam ne može pomoći”.
Jedan post Beauchampa, klasičnog muzičara iz Londona, pregledan je 800.000 puta za samo 24 sata. Pozivajući se na chat bota, napisao je na X da je potpuno beskorisno odgovarati na bilo koja pitanja, a kada su ga pitali, sa zadovoljstvom je proizveo pjesmu o tome koliko su užasni kao kompanija.
DPD koristi AI za online komunikaciju kako bi odgovorila na upite. Kompanija je saopštila da je novo ažuriranje izazvalo neobično ponašanje chatbota.