Fałszywi prorocy nie znoszą sprzeciwu

Rozwój chatbotów AI i ich coraz większy wpływ na nasze życie idzie w parze z potencjalnymi zagrożeniami, jakie stwarzają one w rozpowszechnianiu dezinformacji – ostrzega Matteo Wong w tekście „Chatbots Are Primed to Warp Reality” opublikowanym w serwisie theatlantic.com

Chatboty coraz bardziej integrują się z naszym codziennym życiem za pośrednictwem platform takich jak Google, Meta, a niedługo także Apple. Jednak przybierany przez nie autorytatywny ton i tendencja do przedstawiania informacji fałszywych jako sprawdzonych mogą prowadzić do tego, że ludzie będą im nadmiernie ufać. To naiwne zaufanie może zostać wykorzystane do manipulowania opinią publiczną, zwłaszcza w tak wrażliwych obszarach jak wybory. Generowane przez sztuczną inteligencję dezinformacje mogą bowiem wprowadzać wyborców w błąd co do kluczowych szczegółów – na przykład procedury głosowania.

„Chatboty i wyszukiwarki AI mogą być fałszywymi prorokami, wektorami dezinformacji, które są mniej oczywiste i być może bardziej niebezpieczne niż fałszywy artykuł lub film” – pisze Wong.

Więcej: chatboty mogą nawet wszczepiać fałszywe wspomnienia

Dowiodło tego badanie, którego uczestnicy zostali wprowadzeni w błąd co do szczegółów przestępstwa po interakcji z generatywną AI. Subtelność manipulacji dokonywanych przez sztuczną inteligencję w połączeniu z perswazyjnym charakterem jej odpowiedzi czyni tę technologię szczególnie niebezpieczną. Chatboty mogą przekształcić się w narzędzia do bardziej wyrafinowanych form dezinformacji, takich jak te wykorzystywane w kampaniach politycznych – by wpływać na opinię publiczną.

Firmy technologiczne takie jak Google, Meta i OpenAI zapewniają, że pracują nad ograniczeniem tego ryzyka. Jednak potencjał sztucznej inteligencji do subtelnego zniekształcania rzeczywistości pozostaje poważnym problemem. Jak podkreśla Matteo Wong, chociaż osób korzystających obecnie z chatbotów dla zdobycia krytycznych informacji może być niewiele, wpływ odpowiedzi napisanych przez sztuczną inteligencję w wyszukiwarkach i na innych platformach prawdopodobnie wzrośnie. Potencjalnie może to stworzyć nam przyszłość, w której AI będzie odgrywać główną rolę w kształtowaniu percepcji i zbiorowej publicznej pamięci.

Zdjęcie zajawka: Pixabay