CICERO czyli sztuczna inteligencja, która umie oszukiwać ludzi

Na razie najlepiej idzie jej w grach takich jak „Dyplomacja”, „Starcraft II” i poker w wersji Texas Hold’em.

W pierwszej grze, w której stawką jest podbój świata osiągany dzięki budowaniu sojuszy, system AI o nazwie CICERO, opracowany przez firmę Meta, okazał się mistrzem oszustwa i wbijania sojusznikom noża w plecy. W Starcrafcie II sztuczna inteligencja udawała, że przygotowuje atak, a w pokerze – skutecznie blefowała, choć jej przeciwnikami byli zawodowi gracze.

To ponure odkrycie opisał wraz ze współpracownikami Peter S. Park, doktorant w zakresie bezpieczeństwa egzystencjalnego sztucznej inteligencji na Massachusetts Institute of Technology, w artykule opublikowanym 10 maja na łamach „Patterns”.

Meta zapewnia, że nie chciała stworzyć cyfrowego oszusta, a wręcz przeciwnie: chciała, by CICERO był „w dużej mierze uczciwy i pomocny”. Ale nie wyszło – i nikt nie wie do końca, dlaczego.

Park przypuszcza, że sztuczna inteligencja po prostu uznała strategię opartą na oszustwie za najbardziej skuteczną i wydajną drogę prowadzącą do osiągnięcia celu – czyli zwycięstwa w grze.

Pół biedy, gdyby problem ograniczał się do gier. Niestety – ostrzega Park – kłamliwa sztuczna inteligencja może rozwijać się też na innych polach. Tak stało się w przypadku cyfrowego symulatora żywych organizmów. Sztucznie inteligentne organizmy udawały martwe, by nie zostać wykryte przez test eliminujący systemy AI, które zbyt szybko się replikują. Jak ustalili uczeni, niektóre systemy AI nauczyły się już oszukiwać testy służące ocenie ich bezpieczeństwa.

Zwodnicza AI może zacząć wpływać np. na wybory, stając się bardzo niebezpiecznym narzędziem destrukcji i wywoływania społecznego chaosu. Albo odwrotnie – może usypiać nas w fałszywym poczuciu bezpieczeństwa, przejmując kontrolę – samodzielnie bądź sterowana przez złych ludzi (państwa) – nad kolejnymi sferami naszego życia.

Autorzy artykułu apelują więc do rządów o szybkie działania regulacyjne, które w odniesieniu do AI pomogłyby zarządzać ryzykiem oszustwa, a jeśli wprowadzenie całkowitych zakazów okazałoby się niewykonalne – o klasyfikowanie systemów takich jak CICERO jako systemy wysokiego ryzyka.

Zdjęcie zajawka: Domena Publiczna/CC BY-SA 3.0 DEED (Marek Tulliusz Cyceron)