Noblowska metamorfoza Yoshui Bengio

„Ojciec chrzestny” sztucznej inteligencji żałuje, że przyłożył rękę do jej powstania?

Moje fabryki dynamitu zakończą wszystkie wojny na świecie dużo szybciej niż wszystkie te wasze kongresy – mówił Alfred Nobel. – Tego dnia, kiedy dwie przeciwległe armie zdadzą sobie sprawę, że są w stanie zniszczyć przeciwnika w sekundę, wszystkie cywilizowane narody z przerażeniem odwrócą się od wojny, a następnie rozpuszczą swe armie!

Niedługo potem okazało się, że wynalazek Nobla uczynił wojny bardziej niszczącymi, niż były kiedykolwiek w dotychczasowej historii.

Pod koniec życia Nobel zrozumiał swoją naiwność i ustanowił nagrodę za wybitne osiągnięcia w kilku dziedzinach nauki – oraz za działania na rzecz pokoju.

Jeśliby w świecie nauki szukać współczesnych Alfredów Noblów, wśród nich na pewno znalazłby się Yoshua Bengio, nazywany „ojcem chrzestnym” (a tak po prawdzie jednym z trzech „ojców chrzestnych”, obok Geoffreya Hintona i Yanna LeCuna) sztucznej inteligencji. Wydaje się bowiem, że ten wybitny naukowiec przemierzył ścieżkę refleksji nad potencjalnymi skutkami swego wynalazku analogiczną do tej, którą 120 lat temu przeszedł szwedzki wynalazca.

W wywiadzie udzielonym ostatnio BBC przyznał, że kiedy myśli o możliwych konsekwencjach zastosowania AI, czuje się „zagubiony”. Obawia się bowiem, że w posiadanie sztucznej inteligencji mogą wejść „źli aktorzy” – wojsko, terroryści czy psychopaci – i uczynić z niej superniebezpieczną broń. A taką broń będzie bardzo trudno powstrzymać.

W wymiarze osobistym Bengio najwyraźniej czuje, że znalazł się na rozdrożu. Z jednej strony przyłożył rękę do powstania czegoś niezwykłego, z drugiej jednak traci przekonanie, że praca jego życia może posłużyć tylko do dobrych celów. Przyznaje więc, że gdyby mógł cofnąć czas, pracując nad AI przedłożyłby bezpieczeństwo nad jej użyteczność. Dlatego sprzeciwia się szerokiemu stosowaniu tej technologii do celów wojskowych. Jeśli bowiem inteligentne systemy „są mądrzejsze od nas, to trudno nam powstrzymać te systemy lub zapobiec szkodom”. Dodajmy: szkodom wyrządzanym albo przez złych ludzi, albo przez usamodzielnioną AI.

I dlatego też jego zdaniem wszystkie koncerny technologiczne rozwijające AI powinny zostać zarejestrowane – oraz kontrolowane przez rządy, zwłaszcza jeśli chodzi o technologie wojskowe czy farmaceutyczne. Uprawnieni do takich kontroli ludzie winni posiadać odpowiednie certyfikaty etyczne.

„Nigdy nie jest za późno na poprawę” – mówi Bengio o pracach ludzi nad sztuczną inteligencją. Można jednak odnieść wrażenie, że ma na myśli także siebie…

Materiał BBC na ten temat znajdziesz TU.

Zdjęcie zajawka: Domena publiczna CC-BY-4.0/Yoshua Bengio (w bordowym swetrze)