Volta

Volta to architektura kart graficznych Nvidii wprowadzająca pierwsze dedykowane rdzenie Tensor do obliczeń AI.

Volta jako architektura kart graficznych Nvidia

Volta to architektura procesorów graficznych Nvidia opracowana przede wszystkim z myślą o obliczeniach naukowych, uczeniu maszynowym i profesjonalnych zastosowaniach obliczeniowych. Została zaprezentowana w 2017 roku, a jednym z pierwszych układów tej generacji był GV100, stosowany między innymi w akceleratorach Tesla V100. W późniejszym czasie układy Volta trafiły także do wybranych kart przeznaczonych do stacji roboczych i zaawansowanych komputerów, takich jak Nvidia Titan V oraz Quadro GV100.

Najważniejszą cechą Volty jest połączenie klasycznych jednostek CUDA z wyspecjalizowanymi rdzeniami Tensor. Jednostki CUDA wykonują ogólne obliczenia równoległe, natomiast rdzenie Tensor zostały zaprojektowane do szybkiego wykonywania operacji macierzowych typowych dla sieci neuronowych. Dzięki temu architektura Volta nie ogranicza się do renderowania grafiki 3D, ale może przyspieszać również obliczenia związane z analizą obrazów, rozpoznawaniem wzorców i trenowaniem modeli uczenia maszynowego.

Rdzenie Tensor i obliczenia mieszanej precyzji

Rdzenie Tensor w architekturze Volta wykonują operacje macierzowe z wykorzystaniem mieszanej precyzji. W typowym zastosowaniu dane wejściowe mogą być zapisane w formacie FP16, czyli zmiennoprzecinkowym o połowie precyzji, a wynik pośredni jest akumulowany w formacie FP32. Takie rozwiązanie ogranicza ilość przesyłanych danych i pozwala zwiększyć przepustowość obliczeń, przy zachowaniu większej dokładności podczas sumowania wyników.

Mechanizm ten jest użyteczny w algorytmach, w których dominują mnożenia i dodawania macierzy. Dotyczy to między innymi warstw konwolucyjnych stosowanych w rozpoznawaniu obrazów oraz innych elementów modeli uczenia głębokiego. Samo występowanie rdzeni Tensor nie gwarantuje jednak przyspieszenia każdego programu. Oprogramowanie musi korzystać z odpowiednich bibliotek i ścieżek obliczeniowych, a model lub algorytm powinien tolerować obliczenia w niższej precyzji. Program wykonujący wyłącznie klasyczne operacje CUDA może nie wykorzystać tej części układu.

Budowa układu GV100 i różnice względem późniejszych generacji

W układach Volta zastosowano rozbudowaną strukturę multiprocesorów strumieniowych, czyli SM. Każdy SM zawiera klasyczne rdzenie CUDA, jednostki ładowania i zapisu danych, pamięć podręczną oraz rdzenie Tensor. Układ GV100 korzystał z procesu technologicznego 12 nm FinFET i był projektowany jako duży akcelerator do obliczeń równoległych. W wersjach przeznaczonych do centrów obliczeniowych istotną rolę odgrywała również szybka pamięć HBM2 oraz interfejs NVLink drugiej generacji.

Volta wprowadziła także zmiany w sposobie zarządzania wykonywaniem wątków. Mechanizm niezależnego planowania wątków pozwalał na bardziej elastyczne sterowanie ich wykonaniem niż w starszych architekturach, co miało znaczenie dla złożonych programów CUDA. Zmieniono również organizację pamięci podręcznej i pamięci współdzielonej używanej przez blok wątków. Warto odróżnić Voltę od późniejszej architektury Turing: Volta wprowadziła rdzenie Tensor, ale sprzętowe rdzenie RT do śledzenia promieni pojawiły się dopiero w generacji Turing.

Volta w praktyce serwisowej karty graficznej

Awaria karty z układem Volta może dotyczyć samego procesora graficznego, pamięci HBM2 lub GDDR6 zależnie od konkretnego modelu, sekcji zasilania, układu chłodzenia albo oprogramowania sterującego. Objawami problemu bywają artefakty obrazu, reset sterownika, brak obrazu po uruchomieniu komputera, niestabilność podczas obciążenia oraz błędy pojawiające się dopiero przy wykorzystaniu akceleracji CUDA. Prawidłowa diagnostyka wymaga rozdzielenia problemu sprzętowego od błędnej instalacji sterownika, niezgodności aplikacji albo przegrzewania.

Warszawskie Pogotowie Komputerowe zajmuje się profesjonalną naprawą laptopów, komputerów PC i podzespołów, w tym diagnostyką kart graficznych używanych w komputerach domowych oraz biurowych. Przy ocenie karty z układem Volta sprawdza się między innymi zachowanie urządzenia podczas startu systemu, temperatury, stabilność sterownika i poprawność pracy pod obciążeniem. Jeżeli problem wynika z chłodzenia, zabrudzenia lub nieprawidłowej konfiguracji, możliwe jest usunięcie przyczyny bez ingerencji w sam rdzeń GPU. Uszkodzenie układu graficznego albo pamięci wymaga natomiast odrębnej oceny opłacalności naprawy.