Holokaust i Generatywna AI. UNESCO: do raportu

ChatGPT i Bard należący do Google stworzyły treści szczegółowo opisujące wydarzenia związane z Holokaustem, które nigdy nie miały miejsca

Nowy raport UNESCO ostrzega, że ​​generatywna sztuczna inteligencja zagraża pamięci o Holokauście.

Opublikowany 18 czerwca raport UNESCO ostrzega, że ​​jeśli nie zostaną podjęte zdecydowane działania w celu zintegrowania zasad etycznych, sztuczna inteligencja może zniekształcić historyczny zapis Holokaustu i podsycić antysemityzm.

W raporcie ostrzega się, że generatywna sztuczna inteligencja nie tylko może umożliwić złośliwym podmiotom sianie dezinformacji i narracji napędzanych nienawiścią, ale może również nieumyślnie wymyślać fałszywe lub wprowadzające w błąd treści na temat Holokaustu.

• Raport UNESCO: Sztuczna inteligencja i Holokaust: pisanie historii na nowo – do pobrania

• Jeśli pozwolimy, aby przerażające fakty Holokaustu zostały osłabione, zniekształcone lub sfałszowane poprzez nieodpowiedzialne użycie sztucznej inteligencji, ryzykujemy wybuchowe szerzenie się antysemityzmu i stopniowe zmniejszanie się naszego zrozumienia przyczyn i konsekwencji tych okrucieństw. Wdrożenie Zaleceń UNESCO w sprawie etyki sztucznej inteligencji jest pilne, aby młodsze pokolenia dorastały w oparciu o fakty, a nie fabrykacje – napisało UNESCO.

Opublikowany we współpracy ze Światowym Kongresem Żydów raport UNESCO wyjaśnia, że ​​w miarę jak uczniowie coraz częściej korzystają z generatywnej sztucznej inteligencji do wykonywania zadań i wyszukiwania informacji w Internecie, ryzykują narażenie na zniekształcone informacje o Holokauście, które znalazły nowe sposoby rozprzestrzeniania się za pośrednictwem treści generowanych przez sztuczną inteligencję . Ponieważ czterech na pięciu (80%) młodych ludzi w wieku od 10 do 24 lat korzysta obecnie ze sztucznej inteligencji kilka razy dziennie w celach edukacyjnych, rozrywkowych i innych, należy szybko podjąć działania mające na celu etyczne kierowanie tymi nowymi technologiami.

Sztuczna inteligencja może absorbować i wzmacniać uprzedzenia społeczeństwa 

Generacyjną sztuczną inteligencję należy szkolić przy użyciu ogromnych ilości danych. Dane te są często wydobywane z Internetu i mogą zawierać treści wprowadzające w błąd lub szkodliwe. Dlatego systemy sztucznej inteligencji dziedziczą ludzkie uprzedzenia, potencjalnie fałszywie przedstawiając informacje na temat konkretnych wydarzeń, wzmacniając uprzedzenia. Jest to szczególnie prawdziwe w kontekście Holokaustu, ze względu na powszechną dezinformację na temat tego wydarzenia. W raporcie zauważono, że ze względu na brak nadzoru, wskazówek i moderacji ze strony twórców sztucznej inteligencji narzędzia generatywnej sztucznej inteligencji mogą być również szkolone w oparciu o dane ze stron internetowych zaprzeczających Holokaustowi.

Udokumentowano również, że sztuczna inteligencja umożliwia złym aktorom zniekształcanie treści związanych z Holokaustem, tworzenie sfabrykowanych zeznań, a nawet zmienianie zapisów historycznych. Obrazy deepfake i treści audio tworzone przy użyciu generatywnej sztucznej inteligencji są szczególnie przekonujące dla młodych ludzi, którzy mogą zetknąć się z nimi na platformach mediów społecznościowych. Aplikacja „Dane historyczne” umożliwiała użytkownikom czatowanie z wybitnymi nazistami, takimi jak Adolf Hitler i Joseph Goebbels, i fałszywie twierdziła, że ​​osoby takie jak Goebbels nie były celowo zaangażowane w Holokaust i próbowały zapobiec przemocy wobec Żydów.

Historia „halucynacji” z powodu brakujących danych 

Modele generatywne AI mają skłonność do wymyślania lub „halucynacji” wydarzeń, osobowości, a nawet zjawisk historycznych, gdy nie mają dostępu do wystarczających danych. W raporcie podkreślono, że ChatGPT i Bard należący do Google stworzyły treści szczegółowo opisujące wydarzenia związane z Holokaustem, które nigdy nie miały miejsca.  ChatGPT całkowicie sfabrykowało koncepcję kampanii „Holokaust przez utonięcie”, podczas których naziści topili Żydów w rzekach i jeziorach, a Bard generował fałszywe cytaty ze świadków na poparcie zniekształconych narracji o masakrach Holokaustu.

Oprócz ryzyka manipulacji i „halucynacji” podważających ustalone fakty i zaufanie do ekspertów, raport podkreśla także niebezpieczeństwa, jakie niesie ze sobą tendencja sztucznej inteligencji do nadmiernego upraszczania złożonej historii, uprzywilejowując wąski zakres źródeł i mały wybór wydarzeń. W wyszukiwarkach wykorzystujących sztuczną inteligencję 60–80% wyników wyszukiwania na górze strony dotyczy pojedynczego miejsca Holokaustu, Auschwitz-Birkenau.

Rozwiązanie: zdecydowanie działać na rzecz wdrożenia zasad etycznych UNESCO

UNESCO wzywa rządy do przyspieszenia wdrożenia Zalecenia Organizacji  w sprawie etyki sztucznej inteligencji , pierwszego i jedynego światowego standardu w tej dziedzinie, przyjętego jednomyślnie przez państwa członkowskie w 2021 r. Zalecenie to jest już włączane do prawodawstwa ponad pięćdziesięciu krajów .

Źródło: materiały prasowe, zdjęcie zajawka: picryl.com/Dzieci uwolnione z obozu koncentracyjnego Auschwitz przez Armię Czerwoną (kadr z sowieckiego filmu o wyzwoleniu Auschwitz, wykonany przez oddział filmowy I Frontu Ukraińskiego, kręcony przez kilka miesięcy, począwszy od 27 stycznia 1945 roku przez Aleksandra Worozowa i jego ekipę)