Tesla P100

Nvidia Tesla P100 to profesjonalny akcelerator obliczeniowy tej firmy oparty na architekturze Pascal.

Architektura i przeznaczenie akceleratora Tesla P100

Nvidia Tesla P100 to profesjonalny akcelerator obliczeniowy oparty na układzie GP100 wykonanym w architekturze Pascal. Nie jest to karta graficzna przeznaczona do wyświetlania obrazu ani typowy podzespół do komputera domowego. Jej zadaniem jest wykonywanie obliczeń równoległych w aplikacjach wykorzystujących CUDA, dlatego stosuje się ją przede wszystkim w serwerach obliczeniowych, stacjach roboczych do obliczeń naukowych oraz systemach uczenia maszynowego. Tesla P100 może pracować jako urządzenie obliczeniowe bez podłączonego monitora i zwykle nie ma wyjść obrazu typowych dla kart konsumenckich.

Układ GP100 w modelu Tesla P100 zawiera 3584 rdzenie CUDA oraz obsługuje architekturę CUDA Compute Capability 6.0. Rdzenie wykonują operacje zmiennoprzecinkowe i całkowitoliczbowe, a konstrukcja została zoptymalizowana pod kątem dużej przepustowości obliczeń. P100 obsługuje między innymi obliczenia FP32 i FP64, co ma znaczenie w symulacjach inżynierskich, analizie numerycznej i oprogramowaniu naukowym. W zależności od wersji karta może być instalowana jako moduł SXM2 przeznaczony do systemów serwerowych albo jako karta PCI Express.

Pamięć HBM2 i warianty sprzętowe

Jedną z istotnych cech Tesla P100 jest zastosowanie pamięci HBM2 zamiast klasycznej pamięci GDDR. Pamięć znajduje się w bezpośrednim sąsiedztwie procesora graficznego w tym samym pakiecie, co pozwala uzyskać dużą szerokość magistrali i wysoką przepustowość. Wariant SXM2 był oferowany z 16 GB pamięci HBM2 i przepustowością sięgającą 720 GB/s. Wersje PCIe występowały między innymi z 12 GB lub 16 GB HBM2, przy czym ich parametry zależą od konkretnej odmiany i konfiguracji producenta.

Pamięć Tesla P100 może pracować z mechanizmem ECC, czyli korekcją wybranych błędów pamięci. Funkcja ta jest przydatna w długotrwałych obliczeniach, ponieważ zmniejsza ryzyko uzyskania niewykrytego błędnego wyniku wskutek pojedynczego błędu bitowego. P100 korzysta również z dużej przestrzeni adresowej Unified Memory dostępnej w środowisku CUDA. Nie oznacza to jednak, że pamięć karty i pamięć systemowa mają identyczną wydajność; program nadal powinien ograniczać transfery między hostem a urządzeniem, zwłaszcza przy częstym przesyłaniu małych bloków danych.

Wariant SXM2 komunikuje się z innymi akceleratorami przez interfejs NVLink drugiej generacji. Dzięki temu w odpowiednio zaprojektowanych serwerach możliwe jest uzyskanie większej przepustowości komunikacji między układami niż przy użyciu samego PCI Express. Wersje PCIe korzystają z magistrali PCI Express 3.0 x16. Tesla P100 jest zwykle wyposażona w pasywny układ chłodzenia, więc wymaga serwerowej obudowy zapewniającej właściwy przepływ powietrza przez radiator.

Wykorzystanie w CUDA i wymagania systemowe

Tesla P100 może przyspieszać programy, których zadania da się podzielić na wiele niezależnych operacji. Przykładami są mnożenie macierzy, przetwarzanie dużych tablic danych, symulacje metodą elementów skończonych, analiza obrazów oraz trenowanie modeli uczenia maszynowego. Program uruchamiany na karcie składa się zwykle z kodu wykonywanego przez procesor hosta oraz funkcji CUDA, zwanych kernelami, uruchamianych równolegle na rdzeniach akceleratora. Sama obecność P100 w komputerze nie przyspiesza aplikacji, która nie potrafi korzystać z CUDA lub innego obsługiwanego interfejsu obliczeniowego.

Przy diagnostyce należy sprawdzić, czy system operacyjny wykrywa urządzenie oraz czy sterownik Nvidia został poprawnie załadowany. W środowisku Linux podstawową informację o stanie karty można uzyskać poleceniem nvidia-smi. Narzędzie pokazuje między innymi identyfikator GPU, wersję sterownika, zajętość pamięci, temperaturę i procesy korzystające z urządzenia. Do kontroli zgodności środowiska CUDA trzeba dodatkowo uwzględnić wersję sterownika, wersję używanego toolkit-u oraz wymagania konkretnej aplikacji. Błąd instalacji sterownika nie zawsze oznacza uszkodzenie samego akceleratora.

Model P100 wymaga odpowiedniego zasilania i chłodzenia. Wersje serwerowe mogą pobierać do około 250 W, dlatego nie powinny być instalowane w obudowie pozbawionej właściwej wentylacji. Wysoka temperatura, ograniczenie zegara przez mechanizm thermal throttling albo niestabilność zasilania mogą powodować spadki wydajności i błędy obliczeń. W praktyce warto obserwować temperaturę, zegary, pobór energii oraz komunikaty sterownika podczas obciążenia, a nie oceniać karty wyłącznie na podstawie tego, czy system ją wykrywa.

Diagnostyka i naprawa środowiska z Tesla P100

Diagnoza problemu z Tesla P100 powinna rozdzielać usterki sprzętowe od problemów z konfiguracją oprogramowania. Najpierw sprawdza się osadzenie karty, przewody zasilające, kompatybilność gniazda oraz prawidłowe działanie wentylacji. Następnie analizuje się logi sterownika i wynik nvidia-smi. Jeżeli urządzenie znika z systemu pod obciążeniem, pojawiają się błędy magistrali PCIe albo sterownik zgłasza błędy pamięci ECC, potrzebne są testy w kontrolowanych warunkach oraz porównanie z innym systemem lub sprawnym modułem.

W przypadku wersji SXM2 diagnostyka jest ściśle związana z serwerem, w którym moduł został zamontowany. Nie można traktować takiej karty jak standardowego urządzenia PCIe, ponieważ jej zasilanie, chłodzenie i komunikacja zależą od płyty bazowej oraz platformy obliczeniowej. Wersja PCIe wymaga natomiast wolnego gniazda o odpowiedniej długości, zasilania pomocniczego zgodnego z konstrukcją karty i przepływu powietrza dostosowanego do pasywnego radiatora. Naprawa może obejmować czyszczenie toru chłodzenia, weryfikację zasilania, reinstalację sterownika i test obciążeniowy, ale uszkodzenia układu GP100 lub pamięci HBM2 zwykle wymagają specjalistycznej wymiany całego modułu.

Przed wdrożeniem akceleratora należy także potwierdzić, że używany program został skompilowany dla architektury Pascal i nie wymaga instrukcji dostępnych dopiero w nowszych generacjach GPU. Rzetelny test powinien obejmować zarówno wykrywanie urządzenia, alokację pamięci, transfer danych, uruchomienie kernela, jak i dłuższą pracę pod obciążeniem. Taka procedura pozwala odróżnić błąd aplikacji, niezgodność sterownika, przegrzewanie, problemy z magistralą oraz rzeczywistą awarię Tesla P100.