Xe-HPC

Xe-HPC to wariant architektury graficznej Intela zoptymalizowany pod obliczenia wysokiej wydajności w centrach danych.

Xe-HPC jako mikroarchitektura obliczeniowa Intela

Xe-HPC jest mikroarchitekturą procesorów graficznych Intel Xe przeznaczoną do obliczeń wysokiej wydajności, czyli HPC (High Performance Computing), oraz do wybranych zadań sztucznej inteligencji. Nie jest to nazwa pojedynczej karty graficznej przeznaczonej do laptopa ani oznaczenie typowego układu zintegrowanego. Xe-HPC zastosowano między innymi w rodzinie Intel Data Center GPU Max, wcześniej kojarzonej z nazwą kodową Ponte Vecchio. Układy tej klasy projektowano do pracy w serwerach, węzłach obliczeniowych i superkomputerach, gdzie liczy się przepustowość pamięci, obliczenia zmiennoprzecinkowe oraz możliwość łączenia wielu akceleratorów.

W architekturze Xe-HPC podstawową jednostką obliczeniową jest Xe-core. Każdy Xe-core tej rodziny zawiera osiem silników wektorowych oraz osiem silników macierzowych Intel Xe Matrix Extensions, oznaczanych skrótem XMX. Silniki wektorowe wykonują obliczenia na wielu elementach danych równocześnie, natomiast XMX są przeznaczone do operacji macierzowych, używanych między innymi w trenowaniu i wnioskowaniu modeli uczenia maszynowego. Xe-core korzysta również ze współdzielonej pamięci lokalnej oraz pamięci podręcznej L1, co pozwala ograniczać część transferów do pamięci głównej akceleratora.

Budowa układu: Xe-core, stosy i układ wieloukładowy

Xe-HPC wykorzystuje hierarchiczną budowę. Zestaw Xe-core wraz z jednostkami ray tracingu, kontrolerami pamięci, pamięcią podręczną oraz pozostałymi blokami tworzy stos, określany w dokumentacji Intela jako Xe Stack. W zależności od modelu jeden procesor graficzny może korzystać z jednego albo dwóch stosów. Taka organizacja pozwala zwiększać liczbę jednostek obliczeniowych i kontrolerów pamięci bez traktowania całego układu jako pojedynczego, monolitycznego bloku.

W wybranych układach Xe-HPC zastosowano konstrukcję wieloukładową, w której elementy krzemowe są połączone w jednym pakiecie. Przykładowo Intel Data Center GPU Max 1550 ma 128 Xe-core, 128 jednostek ray tracingu oraz 1024 silniki wektorowe i 1024 silniki XMX. Liczby te wynikają z organizacji dwóch stosów, a nie z cech każdego pojedynczego Xe-core. Przy analizie parametrów trzeba więc odróżniać liczbę Xe-core od liczby silników wektorowych, macierzowych i jednostek wykonawczych.

Pamięć HBM2e i komunikacja między akceleratorami

Jedną z istotnych cech układów opartych na Xe-HPC jest zastosowanie pamięci HBM2e zamiast typowej pamięci GDDR spotykanej w wielu kartach konsumenckich. Intel Data Center GPU Max 1550 ma 128 GB pamięci HBM2e połączonej z 1024-bitowym interfejsem, a deklarowana przepustowość pamięci wynosi 3276,8 GB/s. Taki podsystem jest przeznaczony dla obliczeń, w których dane są wielokrotnie pobierane i przetwarzane przez akcelerator, na przykład w symulacjach numerycznych, obliczeniach macierzowych i analizie dużych zbiorów danych.

Xe-HPC korzysta również z dużej pamięci podręcznej. W modelu Max 1550 Intel podaje do 64 MB pamięci L1 oraz do 408 MB pamięci L2 opartej na układach SRAM. Akcelerator może komunikować się z procesorem gospodarzem przez PCI Express 5.0 x16, a z innymi akceleratorami przez interfejs Intel Xe Link. W praktyce wydajność całego systemu zależy nie tylko od liczby jednostek obliczeniowych, lecz także od sposobu rozmieszczenia danych, lokalności pamięci, przepustowości połączeń oraz tego, czy algorytm ogranicza transfery między pamięcią HBM i procesorem.

Oprogramowanie i znaczenie diagnostyczne Xe-HPC

Programy wykorzystujące Xe-HPC nie działają automatycznie tak jak zwykłe aplikacje graficzne. Kod musi korzystać z odpowiedniego stosu programistycznego, sterownika oraz bibliotek obsługujących urządzenia obliczeniowe Intela. Intel wskazuje w tym kontekście platformę oneAPI, w tym kompilator języka SYCL, biblioteki matematyczne i narzędzia do optymalizacji aplikacji. SYCL umożliwia opisanie obliczeń heterogenicznych, w których część pracy wykonuje procesor ogólny, a część jest przekazywana do GPU. Rzeczywiste przyspieszenie zależy od implementacji algorytmu i obsługiwanych typów danych.

Diagnostyka systemu z Xe-HPC wymaga sprawdzenia zgodności modelu akceleratora z płytą główną i platformą serwerową, zasilania, chłodzenia, wersji firmware, sterownika oraz komponentów oneAPI. Dla modelu Max 1550 istotne są między innymi pobór mocy do 600 W, format modułu OAM oraz brak obsługi wyświetlaczy, ponieważ jest to akcelerator obliczeniowy, a nie karta przeznaczona do podłączania monitora. Błąd aplikacji może wynikać zarówno z problemu sprzętowego, jak i z niezgodności sterownika, błędnego mapowania pamięci HBM, niewłaściwego użycia XMX albo ograniczeń konkretnej biblioteki. Z tego powodu sama obecność urządzenia w systemie nie potwierdza jeszcze poprawnej gotowości do obliczeń HPC.