AI jak bomba atomowa

Kiedy panikuje kolejny technosceptyk, można machnąć ręką. Ale kiedy na alarm bije insider, człowiek z samego jądra środowiska technologicznego, nad tym, co mówi, warto zatrzymać się choćby na chwilę.

Sam Altman, dyrektor generalny OpenAI i szef laboratorium, które stworzyło m.in. ChatGPT, wraz Gregiem Brockmanem i Ilyą Sutskeverem, także liderami OpenAI, na swoim blogu opublikował kilka dni temu tekst ostrzegający przed ryzykiem, jakie niesie rozwój sztucznej inteligencji. Oto najważniejsze tezy:

• „Można sobie wyobrazić, że w ciągu najbliższych dziesięciu lat systemy sztucznej inteligencji przekroczą poziom umiejętności ekspertów w większości dziedzin i będą prowadzić tak produktywną działalność, jak jedna z największych dzisiejszych korporacji”;
• Tak jeśli chodzi o zalety, jak wady, „superinteligencja będzie potężniejsza niż inne technologie, z którymi ludzkość musiała się zmagać w przeszłości. Możemy mieć znacznie bardziej dostatnią przyszłość, ale musimy umiejętnie zarządzać ryzykiem, jej doczekać”;
• Sztuczna inteligencja jest jak broń jądrowa czy biologia syntetyczna, dlatego do jej skutecznego regulowania potrzebujemy organizacji na wzór Międzynarodowej Agencji Energii Atomowej;
• Taka agencja ingerowałaby zawsze wtedy, gdyby AI przekroczyła określony, uznany za bezpieczny próg możliwości (lub zasobów, jak obliczenia) – i przeprowadzała kontrole, ustalając, czy technologia spełnia standardy bezpieczeństwa i etyczności. A jeśli nie, wprowadzałaby jej ograniczenia;
• My – zaznaczają Altman, Brockman i Sutskever – przyłożyliśmy rękę do rozwoju AI, bo dzięki niej może nastąpić „zdumiewający” dobrobyt gospodarczy i poprawa jakości życia, a świat może stać się „znacznie lepszego świata niż ten, który możemy sobie dziś wyobrazić”. Jaki konkretnie? Na przykład pozwalający osiągnąć cele klimatyczne, zrównoważony wzrost, utrzymanie globalnej konkurencyjności itp.;
• Powstrzymanie prac nad superinteligencją byłoby „ryzykowne i trudne”. „Jako że (wynikające z niej) korzyści są tak ogromne, koszt jej budowy maleje z każdym rokiem, liczba podmiotów ją budujących gwałtownie rośnie i jest ona nieodłączną częścią ścieżki technologicznej, na której się znajdujemy”.
• Ale właśnie dlatego, że AI jest tak obietnicą tak cenną, należy trzymać ją na czymś w rodzaju inteligentnej smyczy.

Zdjęcie zajawka: Gerd Altmann/Pixabay