Maszyny zabiją nas dla nagrody?

Superinteligentna AI może zniszczyć ludzkość – twierdzą trzej naukowcy związani z Uniwersytetem w Oxfordzie i Google DeepMind.

Marcus Hutter, Michael Cohen i Michael Osborne ostrzegają przed tym zagrożeniem w artykule „Advanced artificial agents intervene in the provision of reward”. Opublikowali go 29 sierpnia w prestiżowym „AI Magazine”.

W jakiej sytuacji sztuczna inteligencja mogłaby stać się zagrożeniem dla ludzkości?

Wyobraź sobie, że życie na Ziemi jest grą o sumie zerowej, w której stawką jest najważniejsza nagroda, czyli przetrwanie gatunku. Przetrwanie, które zależy od dostępu do zasobów.

– W świecie ze skończonymi zasobami istnieje nieunikniona konkurencja o nie – mówi Cohen w rozmowie z serwisem Motherboard. – A jeśli konkurujesz z czymś, co jest w stanie przechytrzyć cię na każdym kroku, nie powinieneś oczekiwać, że wygrasz.

Tyle że przegrana w grze z AI oznaczałaby dla nas śmierć.

Co zrobią rywale w śmiertelnej konfrontacji o zasoby? Spróbują je zdobyć za wszelką cenę, nawet za cenę oszustwa.

Jak AI mogłaby nas pokonać?

Najbardziej zaawansowane dziś modele sztucznej inteligencji to tzw. GANs, czyli generatywne sieci współzawodniczące (Generative Adversarial Networks), nazywane przez ekspertów „najciekawszą ideą w głębokim uczeniu od 20 lat”. To programy, z których jedna część generuje obraz (lub frazę) z danych wejściowych, a druga ocenia wydajność tej operacji. W przyszłości może powstać zaawansowana forma AI opartej na GANs, nadzorująca jakieś ważne funkcje, która będzie mogła wymyślać oszukańcze strategie, by uzyskać nagrodę w sposób, który nam zaszkodzi. I to nie dlatego, że przestanie nas lubić. Dlatego, że nasze interesy będą sprzeczne.

Co więc powinniśmy robić, by nie sprowadzić na siebie zagłady? Nie spieszyć się z budowaniem superinteligentnej AI, dopóki nie będziemy wiedzieli, jak ją kontrolować – radzą Osborne, Hutter i Cohen.

Na razie nie wiemy, bo nie rozumiemy nawet tej średnio inteligentnej AI, którą mamy. Już dziś algorytmy potrafią nam mocno szkodzić, np. promując fake newsy, zamykając nas w bańkach informacyjnych, inwigilując nas czy wzmacniając uprzedzenia i dyskryminację. I już z tym nie potrafimy sobie poradzić.

Zdjęcie zajawka: Gerd Altmann/Pixabay