Sztuczne sieci neuronowe mogą wkrótce być w stanie wydajniej przetwarzać informacje zależne od czasu, takie jak dane audio i wideo. O pierwszym memrystorze z „czasem relaksu”, który można dostroić, napisano w czasopiśmie Nature Electronics w ramach badania prowadzonego pod kierunkiem Uniwersytetu Michigan.
Memrystory, elementy elektryczne przechowujące informacje w swojej rezystancji elektrycznej, mogą zmniejszyć zapotrzebowanie sztucznej inteligencji na energię ok. 90-krotnie w porównaniu z dzisiejszymi jednostkami przetwarzania graficznego. Już obecnie przewiduje się, że sztuczna inteligencja będzie odpowiadać za około pół procent całkowitego światowego zużycia energii elektrycznej w 2027 r., a liczba ta może wzrosnąć w miarę sprzedawania i korzystania z narzędzi sztucznej inteligencji przez coraz więcej firm.
Obecnie istnieje duże zainteresowanie sztuczną inteligencją, ale aby przetwarzać większe i bardziej interesujące dane, należy zwiększyć rozmiar sieci. Nie jest to zbyt efektywne” – stwierdził Wei Lu, profesor inżynierii Jamesa R. Mellora na UM i współautor badania wraz z Johnem Heronem, profesorem nadzwyczajnym nauk o materiałach i inżynierii na UM.
Problem w tym, że procesory graficzne działają zupełnie inaczej niż sztuczne sieci neuronowe obsługujące algorytmy AI – cała sieć i wszystkie jej interakcje muszą być sekwencyjnie ładowane z pamięci zewnętrznej, co pochłania zarówno czas, jak i energię. Z kolei memrystory zapewniają oszczędność energii, ponieważ naśladują kluczowe aspekty funkcjonowania zarówno sztucznych, jak i biologicznych sieci neuronowych bez pamięci zewnętrznej. W pewnym stopniu sieć memrystorowa może ucieleśniać sztuczną sieć neuronową.
Przewidujemy, że nasz nowy system materiałów może sześciokrotnie poprawić efektywność energetyczną chipów AI w porównaniu z najnowocześniejszymi materiałami bez zmieniania stałych czasowych – powiedział Sieun Chae, niedawny doktorant na UM. absolwent nauk o materiałach i inżynierii materiałowej oraz współautor pierwszego badania wraz z Sangminem Yoo, niedawnym absolwentem studiów doktoranckich na UM w dziedzinie inżynierii elektrycznej i komputerowej.
W biologicznej sieci neuronowej odmierzanie czasu osiąga się poprzez relaksację. Każdy neuron odbiera sygnały elektryczne i wysyła je dalej, ale nie gwarantuje to, że sygnał przejdzie dalej. Zanim neuron wyśle swój własny, musi zostać osiągnięty pewien próg przychodzących sygnałów i musi on zostać osiągnięty w określonym czasie. Mówi się, że jeśli upłynie zbyt dużo czasu, neuron rozluźnia się, gdy wycieka z niego energia elektryczna. Posiadanie neuronów o różnych czasach relaksacji w naszych sieciach neuronowych pomaga nam zrozumieć sekwencje zdarzeń.
Memrystory działają nieco inaczej. Zamiast całkowitej obecności lub braku sygnału zmienia się ilość przedostającego się sygnału elektrycznego. Ekspozycja na sygnał zmniejsza rezystancję memrystora, umożliwiając przejście większej ilości następnego sygnału. W memrystorach relaksacja oznacza, że z czasem opór ponownie wzrasta.
Chociaż grupa Lu badała w przeszłości budowanie czasu relaksacji w memrystorach, nie było to coś, co można było systematycznie kontrolować. Jednak teraz zespół Lu i Herona wykazał, że zmiany w materiale podstawowym mogą zapewniać różne czasy relaksacji, umożliwiając sieciom memrystorowym naśladowanie tego mechanizmu pomiaru czasu.
Zespół zbudował materiały na nadprzewodniku YBCO składającym się z itru, baru, węgla i tlenu. Nie ma oporu elektrycznego w temperaturach poniżej -292 Fahrenheita, ale potrzebowali go ze względu na jego strukturę krystaliczną. To wyznaczyło organizację tlenków magnezu, kobaltu, niklu, miedzi i cynku w materiale memrystorowym.
Heron nazywa ten rodzaj tlenku stabilizowanego entropią, „kuchennym zlewem świata atomowego” – im więcej dodadzą pierwiastków, tym staje się on bardziej stabilny. Zmieniając proporcje tych tlenków, zespół uzyskał stałe czasowe w zakresie od 159 do 278 nanosekund, czyli bilionowych części sekundy. Zbudowana przez nich prosta sieć memrystorowa nauczyła się rozpoznawać dźwięki liczb od zera do dziewięciu. Po przeszkoleniu może zidentyfikować każdy numer przed zakończeniem wprowadzania sygnału audio.
Memrystory te wytworzono w energochłonnym procesie, ponieważ zespół potrzebował doskonałych kryształów do precyzyjnego pomiaru ich właściwości, ale przewiduje, że w przypadku masowej produkcji sprawdzi się prostszy proces.
Jak na razie jest to wizja, ale myślę, że istnieją sposoby, aby uczynić te materiały skalowalnymi i niedrogimi – powiedział Heron. – Te materiały są nietoksyczne, tanie i prawie można je rozpylać.
Badania sfinansowała Narodowa Fundacja Nauki. Dokonano tego we współpracy z naukowcami z Uniwersytetu Oklahomy, Uniwersytetu Cornell i Uniwersytetu Stanowego Pensylwanii.
Urządzenie zbudowano w zakładzie nanofabrykaqcji w Lurie i badano w Michigan Center for Materials Characterization.
Lu jest także profesorem inżynierii elektrycznej i komputerowej oraz nauk o materiałach i inżynierii. Chae jest obecnie adiunktem elektrotechniki i informatyki na Uniwersytecie Stanowym Oregon.
Źródło: University of Michigan, zdjęcie zajawka: Pixabay
Zostaw komentarz
You must be logged in to post a comment.