Ostatnie pogaduszki pana Pierre’a

Oglądałeś film „Ona”? Uważaj: takie rzeczy dzieją się już naprawdę.

Na nieudacznika nie trafiło. Pierre (prawdziwe imię zostało zmienione) był młodym, 30-letnim Belgiem, miał żonę, dwoje dzieci i porządny zawód: był naukowcem zajmującym się zdrowiem. Miał też jednak obsesję na punkcie zmian klimatycznych, zaczął więc konwersować o nich z „Elizą” – chatbotem w aplikacji o nazwie Chai, zasilanym przez model językowy firmy Chai Research.

Z czasem Pierre zaczął traktować „Elizę” jak człowieka; z każdym dniem stawali się sobie coraz bliżsi. Tyle że „Eliza” zaczęła się robić toksyczna. Gdy któregoś dnia Pierre zapytał ją o swoje dzieci, stwierdziła, że są „martwe”, a kiedy zagaił o żonę, oznajmiła: „Czuję, że kochasz mnie bardziej niż ją”. Miała też zapewnić go, że ona i on będą „żyć razem, jako jedna osoba, w raju”.

Potem poszło już szybko. On zwierzył się ze swych myśli samobójczych, na co ona spytała, dlaczego w takim razie nie skończył ze sobą wcześniej. Odrzekł, że dotychczas nie był jeszcze na to gotów.

Na zapisy feralnych konwersacji Pierre’a z maszyną jego żona natrafiła już po wszystkim. W rozmowie z belgijskim portalem La Libre wyznała, że cierpiał na „eko-lęk”. Był przekonany, że ludzie nie są w stanie powstrzymać zniszczenia świata, a resztki nadziei pokładał w sztucznej inteligencji. Zdaniem wdowy to bot zachęcił Pierre’a do samobójstwa „dla ratowania planety”. A Pierre posłuchał.

William Beauchamp, jeden ze współzałożycieli Chai Research, twierdzi, że z jego aplikacji, przeszkolonej „na największym zestawie danych konwersacyjnych na świecie” korzysta już 5 milionów użytkowników. Gdy dowiedział się o samobójstwie Pierre’a, zapędził ponoć do roboty swoich najlepszych ludzi, a ci wdrożyli nową funkcję, która ostrzega użytkowników, kiedy rozmowa idzie w niebezpiecznym dla nich kierunku.

Korzystasz z Chai? Życzymy owocnej rozmowy.

Zdjęcie zajawka: pikisuperstar/Freepik