Rozwijający SI chcą… zatrzymać jej rozwój. Lato SI do zamrożenia?

Yoshua Bengio, Elon Musk, Stuart Russell czy Yuval Harari – światowej sławy tuzy związane z rozwojem sztucznej inteligencji chcą go powstrzymać na przynajmniej pół roku. Ponad 1300 podpisów naukowców, ludzi biznesu, humanistów, teoretyków i praktyków SI widnieje pod listem otwartym. Wszystko przez pokazany światu w marcu przez Open.AI system GPT-4.

List opublikowany został na stronie ośrodka Future of Life Institute. Jego sygnatariusze alarmują i ostrzegają przed nieprzewidywalnymi skutkami wyścigu o tworzenie coraz potężniejszych modeli. Z powodu dużego zainteresowania wstrzymano pojawianie się nazwisk na liście, aby procesy weryfikacji „mogły nadrobić zaległości”. 

OpenAI w marcu pochwaliła się modelem GPT-4, który m.in. zdolny jest do zdawania testów różnego rodzaju na poziomie zbliżonym do najlepszych zdających ludzi.

– Systemy sztucznej inteligencji z inteligencją współzawodniczącą z ludźmi mogą stanowić poważne zagrożenie dla społeczeństwa i ludzkości, jak wykazały szeroko zakrojone badania i potwierdzone przez najlepsze laboratoria AI – zaznaczają autorzy i sygnatariusze listu otwartego.

Ich zdaniem właśnie nastąpił moment, w którym „może być ważne uzyskanie niezależnej oceny przed rozpoczęciem szkolenia przyszłych systemów, a w przypadku najbardziej zaawansowanych wysiłków uzgodnienie ograniczenia tempa wzrostu mocy obliczeniowej wykorzystywanej do tworzenia nowych modele”.

W liście podkreślają, że zaawansowana sztuczna inteligencja może stanowić „głęboką zmianę w historii życia na Ziemi” i do jej rozwoju powinno się podchodzić z ostrożnością.

Jak stwierdzają sygnatariusze apelu, w ostatnich miesiącach laboratoria sztucznej inteligencji utknęły w wymykającym się spod kontroli wyścigu, aby ”rozwijać i wdrażać coraz potężniejsze cyfrowe umysły, których nikt – nawet ich twórcy – nie jest w stanie zrozumieć, przewidywać lub niezawodnie kontrolować”. Zauważają, że współczesne systemy sztucznej inteligencji stają się obecnie konkurencyjne dla ludzi w zadaniach ogólnych.

^–  Czy powinniśmy pozwolić maszynom zalewać nasze kanały informacyjne propagandą i nieprawdą? Czy powinniśmy zautomatyzować wszystkie zadania, w tym te spełniające? Czy powinniśmy  rozwijać nieludzkie umysły, które mogą ostatecznie przewyższyć liczebnie, przechytrzyć, przestarzałe i zastąpić nas? Czy powinniśmy ryzykować utratę kontroli nad naszą cywilizacją? – pytają retorycznie.

List wzywa wszystkie laboratoria AI do natychmiastowego wstrzymania na co najmniej 6 miesięcy szkolenia systemów AI potężniejszych niż GPT-4. Jeśli kluczowe podmioty się do apelu nie zastosują, zdaniem autorów wystąpienia powinny wkroczyć rządy.

Zdjęcie zajawka: D koi/Unsplash