Najpierw taka sieć jest trenowana, a jej sztuczne neurony (jednostki przetwarzające dane) – dostrajane przez algorytm w taki sposób, by odzwierciadlały określony zestaw danych. Tak wyszkolona i wyregulowana sztuczna inteligencja potrafi reagować na nasze polecenia, odpowiadać na pytania, rozwiązywać zadania itp.
I tu podobieństwo z mózgiem człowieka się kończy. Bo gdy na etapie treningu sztuczne neurony dużego modelu językowego zostaną raz ustawione, nie potrafią się już potem aktualizować i uczyć nowych danych.
Innymi słowy, sztuczna inteligencja nie potrafi, jak ludzie, uczyć się trakcie pracy. A mówiąc precyzyjnie – przypomina tępego człowieka, który raz się już czegoś nauczywszy, jest w stanie robić już tylko to. Bo kiedy spróbujesz nauczyć go czegoś nowego, jego szare komórki się „przegrzewają” i osobnik wpada w stupor. W przypadku sztucznej inteligencji sprawa wygląda tak, że po wystawieniu jej na działanie nowych danych ogromna liczba sztucznych neuronów zatrzymuje się na wartości zerowej. To tak, jakby w mózgu człowieka nagle obumarło 90 proc. neuronów.
Odkrycie to zawdzięczamy naukowcom z Uniwersytetu Alberty, którzy opublikowali właśnie wyniki swojej pracy na łamach „Nature”. Przeprowadzili dwa badania. W pierwszym trenowali systemy AI na 14 milionach obrazków przedstawiających proste obiekty, jak koty czy domy. W drugim szkolili sztuczną inteligencję, by naśladowała uczące się chodzić mrówki. W przypadku obu przedsięwzięć sztuczna inteligencja, której nie pozwolono poprzestać na jednym treningu, ale zmuszano ją do ciągłej nauki przez ciągłe trenowanie – po kilku tysiącach cykli po prostu się „zawieszała”.
By wyjść z impasu, naukowcy opracowali nowy algorytm, który po każdej rundzie treningu wyłącza losowo część sztucznych neuronów. Dzięki temu, jak twierdzą, udaje się potem ożywiać obumarły neuron. Jednak to, czy algorytm rzeczywiście jest skuteczny, okaże się dopiero po przetestowaniu na wielkich systemach.
Zdjęcie zajawka: Freepik
Zostaw komentarz
You must be logged in to post a comment.