Przyszłość botów rzeźnych

Moment Oppenheimera to sytuacja, w której człowiek wynajduje nowy rodzaj śmiercionośnej broni zanim wymyśli sposób jej kontrolowania.

Tak jak Robert Oppenheimer skonstruował broń atomową, zanim zrozumiał, że za wszelką cenę trzeba ograniczać jej dostępność.

Według przywódców cywilnych i wojskowych oraz liderów technologii z ponad 100 krajów, którzy w poniedziałek zjechali do Wiednia na dwudniową konferencję technologiczną, ludzkość znalazła się właśnie na progu takiej sytuacji – a problem dotyczy sztucznej inteligencji. Przekonanie, że dotarliśmy właśnie do takiego punktu, wyraził m.in. Alexander Schallenberg, minister spraw zagranicznych Austrii, nazywając AI „najważniejszym postępem w działaniach wojennych od czasu wynalezienia prochu” – czyli od ponad tysiąca lat. Tyle że sztuczna inteligencja jest od prochu znacznie bardziej niebezpieczna.

Apelując o natychmiastowe działania na rzecz zapewnienia kontroli człowieka nad AI austriacki minister nakreślił plan minimum.

Trzeba stworzyć taki system, w którym ostateczna decyzja o tym, kto zginie, a kto przeżyje, zawsze będzie należała do człowieka

O tym, że już dzisiaj mamy z tym problem, świadczą np. ostatnie doniesienia z Izraela. Otóż sześciu oficerów wywiadu tego państwa przyznało się do korzystania z AI o upiornie przewrotnej w tym kontekście nazwie „Lavender”, która sklasyfikowała 37 tysięcy Palestyńczyków jako podejrzanych o to, że są bojownikami. W rezultacie ich domy zostały oznaczone jako dopuszczalne cele bombardowań.

Zadanie, przed którym stoi świat, jest tym trudniejsze, że tradycyjne podejście do kontroli zbrojeń, oparte na międzynarodowych traktatach, w przypadku AI nie zadziała. Bo sztuczna inteligencja nie jest jakimś systemem uzbrojenia, lecz kombinacją technologii podwójnego – cywilnego i wojskowego – zastosowania. Poza tym do tej pory na udział w wyścigu zbrojeń, z uwagi na koszt wytwarzania najbardziej śmiercionośnej broni, mogły brać tylko bogate, potężne i zaawansowane technologicznie państwa.

Teraz w takim wyścigu mogą wziąć udział studenci z drukarką 3D.

Jeśli czegoś nie wymyślimy, czeka nas – jak to wdzięcznie określił prof. Anthony Aguirre, fizyk z Uniwersytetu Kalifornijskiego w Santa Cruz, „przyszłość dronów rzeźnych”.

Więc lepiej wymyślmy.

Zdjęcie zajawka: Domena Publiczna CC BY-SA 3.0/Następstwa izraelskiego nalotu na obszar El-Remal w mieście Gaza, 9 października 2023 r.