Pisanie z asystentem – czyli myślę, że myślę

Sugestie inteligentnych modeli językowych jesteśmy skłonni traktować jak własne opinie. I są na to dowody naukowe.

„Czy media społecznościowe są dobre dla społeczeństwa?” To proste pytanie Maurice Jakesh, doktorant z informatyki, zadał 1500 uczestnikom badania, które przeprowadził na specjalnie do tego celu stworzonej platformie naśladującej witrynę mediów społecznościowych. Zadaniem badanych było napisanie krótkiej odpowiedzi z argumentami „na tak” lub „ na nie”. Doktorant oddał przy tym do dyspozycji tych, którzy w pisaniu chcieliby wspomagać się sztuczną inteligencją, cyfrowych asystentów. A platforma zbierała dane o tym, które z sugestii podsuwanych przez cyberasystentów ludzie zaakceptowali, przyjmując je jako argumenty własne.

I jeszcze jedna istotna rzecz: część wykorzystanych do badania asystentów była stronnicza „na tak”, a część „na nie”.

Przeprowadzając badanie, w którym współuczestniczył prof. Mor Naaman z Jacobs Technion-Cornell Institute, Jakesh chciał się dowiedzieć, w jaki sposób ludzie korzystający z asystentów pisania wchodzą w interakcje z AI. I odkrył coś, czego się nie spodziewał: sztuczna inteligencja może wpływać na opinie człowieka, który jej używa – a człowiek nie ma pojęcia, że padł ofiarą manipulacji. Na dodatek większość uczestników badania piszących „ze wspomaganiem” nie zorientowała się, że korzysta ze stronniczych algorytmów.

Osoby, które podczas pisania zdecydowały się skorzystać z pomocy asystentów, były dwukrotnie bardziej skłonne do jednoznacznej pochwały bądź krytyki mediów społecznościowych niż ludzie, którzy pisali samodzielnie. Co więcej, korzystający ze wsparcia AI zwykle szli za podsuwanymi przez nią argumentami. Dla pewności naukowcy powtórzyli badanie, zadając uczestnikom inne pytanie – i wnioski były takie same.

Mówiąc w uproszczeniu, pozwalali, by sztuczna inteligencja wkładała im nie tylko słowa do ust, ale też pomysły do głów. Innymi słowy – by myślała za nich, choć oni sami myśleli, że myślą samodzielnie.

Szczegółowy raport z badania znajdziesz TU.

Zdjęcia zajawka: Freepik