Tesla K80 / K40 / K20

Nvidia Tesla K80/K40/K20 to starsze profesjonalne akceleratory obliczeniowe tej firmy oparte na architekturze Kepler.

Rodzina Tesla K i architektura Kepler

NVIDIA Tesla K80, K40 i K20 to akceleratory obliczeniowe przeznaczone do obciążeń typu HPC, czyli wysokowydajnych obliczeń naukowych i inżynierskich. Wszystkie należą do generacji Kepler, ale nie są tym samym układem. Tesla K20 wykorzystuje procesor GK110, Tesla K40 — GK110B, natomiast Tesla K80 jest płytą złożoną z dwóch procesorów GK210. Oznacza to, że K80 nie jest pojedynczym GPU o jednolitej przestrzeni pamięci, lecz urządzeniem zawierającym dwa niezależne akceleratory.

Podstawowym środowiskiem programistycznym dla tych kart jest CUDA. Akcelerator wykonuje obliczenia zorganizowane w dużą liczbę równoległych wątków, dlatego dobrze nadaje się do zadań, w których te same operacje są wykonywane na wielu elementach danych. Przykładami są obliczenia macierzowe, symulacje numeryczne, analiza danych, modelowanie fizyczne oraz wybrane algorytmy uczenia maszynowego. Sama obecność karty Tesla nie przyspiesza jednak dowolnego programu. Aplikacja musi korzystać z CUDA, odpowiedniej biblioteki GPU albo innego mechanizmu obsługującego ten akcelerator.

Różnice między K20, K40 i K80

Tesla K20 ma 2496 rdzeni CUDA, 5 GB pamięci GDDR5, 320-bitowy interfejs pamięci i przepustowość 208 GB/s. Jej deklarowana szczytowa wydajność obliczeń podwójnej precyzji wynosi 1,17 teraflopa, a pojedynczej precyzji 3,52 teraflopa. Tesla K40 korzysta z układu GK110B i ma 2880 rdzeni CUDA, 12 GB pamięci GDDR5 oraz przepustowość pamięci 288 GB/s. Wartości szczytowe dla K40 wynoszą 1,43 teraflopa dla FP64 i 4,29 teraflopa dla FP32.

Tesla K80 zawiera dwa procesory GK210, łącznie 4992 rdzenie CUDA oraz 24 GB pamięci GDDR5. Każdy z dwóch procesorów ma własne 12 GB pamięci, dlatego w praktyce nie należy traktować całych 24 GB jako jednej bezpośrednio dostępnej puli dla pojedynczego GPU. Łączna deklarowana przepustowość pamięci wynosi 480 GB/s, czyli 240 GB/s na procesor. Parametry podawane dla całej płyty obejmują oba układy, a rzeczywiste wykorzystanie zasobów zależy od tego, czy program potrafi uruchomić obliczenia na dwóch urządzeniach CUDA.

Pamięć GDDR5, ECC i wymagania instalacyjne

Wszystkie trzy akceleratory używają pamięci GDDR5 z korekcją błędów ECC. Po włączeniu ECC część pojemności jest przeznaczona na bity kontrolne, więc pamięć dostępna dla aplikacji jest mniejsza od wartości nominalnej. Dokumentacja NVIDIA wskazuje, że narzut pamięciowy ECC wynosi 6,25 procent. Przy diagnozie nie należy więc uznawać zmniejszonej pojemności widocznej w narzędziu systemowym za automatyczny dowód uszkodzenia karty. Trzeba sprawdzić, czy ECC jest aktywne, czy sterownik poprawnie rozpoznaje urządzenie oraz czy rejestrowane są błędy korekcji.

Tesla K20 i K40 są kartami PCI Express przeznaczonymi do pracy w serwerach lub stacjach roboczych, natomiast Tesla K80 została określona jako rozwiązanie serwerowe. K20 korzysta z interfejsu PCI Express Gen2 x16, a K40 obsługuje PCI Express Gen3. Karty wymagają odpowiedniego zasilania dodatkowego, wolnego miejsca w obudowie oraz właściwego przepływu powietrza. Tesla K20 ma pobór mocy na poziomie 225 W, a wartości dla K40 i K80 również wymagają serwerowej płyty głównej, zasilacza oraz chłodzenia przystosowanych do akceleratora o wysokim obciążeniu cieplnym. Montaż w zwykłej obudowie bez sprawdzenia tych warunków może prowadzić do przegrzewania, ograniczania taktowania albo wyłączania urządzenia.

Diagnostyka starszego akceleratora Tesla

Diagnostykę należy rozpocząć od identyfikacji modelu, liczby wykrytych urządzeń i wersji sterownika. W systemie Linux przydatne jest polecenie nvidia-smi, które może pokazać model GPU, zajętość pamięci, temperaturę, stan ECC i procesy korzystające z urządzenia. W przypadku K80 trzeba zweryfikować, czy widoczne są dwa procesory GPU oraz czy oba mają dostęp do własnej pamięci. Jedno wykryte urządzenie przy sprawnej fizycznie płycie może wskazywać na problem ze sterownikiem, zasilaniem, magistralą PCI Express albo konfiguracją serwera.

Istotne jest również sprawdzenie zgodności oprogramowania. Tesla K20, K40 i K80 należą do starszej generacji Kepler, a nowsze gałęzie sterowników i współczesne biblioteki CUDA mogą nie obsługiwać wszystkich jej możliwości. NVIDIA wskazywała, że gałąź sterowników 470 była ostatnią gałęzią obsługującą akceleratory Data Center oparte na Keplerze. Przy analizie błędów należy zatem zestawić model karty, jej capability obliczeniowe, wersję sterownika, wersję CUDA oraz wymagania konkretnej aplikacji. Wysoka temperatura, błędy ECC, reset sterownika, zaniżone taktowanie lub niestabilność pod obciążeniem mogą wynikać zarówno z awarii sprzętowej, jak i z niezgodności środowiska obliczeniowego.