NVIDIA Xavier Series

NVIDIA Xavier Series to rodzina modułów obliczeniowych tej firmy z linii Jetson, poprzedzająca nowszą generację Orin.

Architektura rodziny NVIDIA Xavier

NVIDIA Xavier Series to rodzina układów obliczeniowych z platformy Jetson, przeznaczonych do uruchamiania algorytmów sztucznej inteligencji i przetwarzania danych blisko źródła, na przykład w kamerze, robocie, pojeździe autonomicznym albo urządzeniu przemysłowym. Xavier nie jest pojedynczym procesorem przeznaczonym do typowego laptopa, lecz zintegrowaną platformą system-on-module, w której procesor ARM, układ graficzny, pamięć i bloki przyspieszające obliczenia AI współpracują w jednym module.

Podstawą generacji Xavier jest ośmiordzeniowy procesor NVIDIA Carmel zgodny z architekturą ARMv8.2-A oraz układ GPU oparty na architekturze Volta. W zależności od wariantu platforma udostępnia również rdzenie Tensor przeznaczone do obliczeń macierzowych stosowanych w sieciach neuronowych. Takie połączenie pozwala wykonywać lokalnie inferencję, czyli obliczanie wyniku wytrenowanego modelu, bez konieczności przesyłania każdej klatki obrazu lub każdego pomiaru do zewnętrznego serwera.

Warianty Jetson AGX Xavier i Xavier NX

Największym przedstawicielem tej generacji jest Jetson AGX Xavier. Układ ten ma 512 rdzeni CUDA, 64 rdzenie Tensor, ośmiordzeniowy procesor Carmel oraz pamięć LPDDR4x o pojemności 32 GB. W materiałach NVIDIA jego wydajność dla obliczeń AI podawano na poziomie do 32 TOPS przy zastosowaniu operacji INT8, czyli całkowitoliczbowych obliczeń ośmiobitowych. Moduł jest przeznaczony do zadań wymagających równoczesnego przetwarzania obrazu, danych z czujników i modeli uczenia maszynowego.

Jetson Xavier NX jest mniejszym wariantem tej samej generacji. Wykorzystuje 384 rdzenie CUDA, 48 rdzeni Tensor, sześciordzeniowy procesor Carmel i pamięć LPDDR4x o pojemności 8 albo 16 GB, zależnie od wersji modułu. Deklarowana wydajność obliczeń AI sięga 21 TOPS dla INT8. Xavier NX zapewnia niższy pobór mocy i mniejsze wymiary niż AGX Xavier, dlatego stosuje się go w kompaktowych urządzeniach brzegowych, gdzie liczy się bilans wydajności, temperatury i zasilania.

System operacyjny, JetPack i interfejsy sprzętowe

Moduły Xavier pracują w ekosystemie NVIDIA JetPack, który obejmuje system operacyjny, sterowniki, biblioteki CUDA, cuDNN i TensorRT oraz narzędzia do programowania i wdrażania modeli. CUDA udostępnia obliczenia na GPU, cuDNN optymalizuje operacje głębokiego uczenia, a TensorRT służy do przygotowania i wykonywania modeli inferencyjnych z uwzględnieniem możliwości konkretnego układu. Zgodność aplikacji zależy od wersji JetPack, systemu bazowego, sterownika i używanych bibliotek, dlatego aktualizacja pojedynczego elementu może zmienić zachowanie gotowego programu.

Sam moduł wymaga odpowiedniej płyty nośnej, ponieważ złącze i dostępne sygnały zależą od wariantu oraz używanego zestawu deweloperskiego. W systemach Xavier spotyka się między innymi interfejsy USB, Ethernet, PCI Express, MIPI CSI-2 dla kamer oraz GPIO, I2C, SPI i UART dla urządzeń zewnętrznych. Moduł obliczeniowy nie powinien być diagnozowany tak samo jak karta graficzna montowana w komputerze PC. Problemy mogą wynikać z płyty nośnej, zasilania, pamięci masowej, obrazu systemu, sterownika kamery albo niezgodności bibliotek, a nie z samego układu Xavier.

Rozpoznawanie usterek platformy Xavier

Diagnostykę rozpoczyna się od ustalenia dokładnego wariantu: Jetson AGX Xavier, Jetson Xavier NX, zestaw deweloperski czy moduł zamontowany w urządzeniu docelowym. Następnie sprawdza się reakcję na zasilanie, komunikację z płytą nośną, poprawność uruchamiania systemu, wykrywanie pamięci masowej oraz dostępność urządzeń peryferyjnych. Brak obrazu z kamery nie musi oznaczać uszkodzenia GPU, ponieważ przyczyną może być niewłaściwe mapowanie portu MIPI, błędny sterownik, niezgodny tryb pracy sensora lub problem z taśmą sygnałową.

Ważnym elementem jest kontrola temperatury i sposobu chłodzenia. Xavier może ograniczać częstotliwość pracy po przekroczeniu ustalonych progów termicznych, co objawia się spadkiem wydajności albo niestabilnością obciążonego programu. Weryfikuje się również napięcia zasilające, stan nośnika systemowego, komunikaty jądra i zgodność wersji JetPack z aplikacją. Jeżeli platforma nie uruchamia się po aktualizacji, konieczne jest rozdzielenie problemu sprzętowego od błędu obrazu systemu lub oprogramowania startowego. Dopiero po takim rozróżnieniu można ocenić, czy potrzebna jest naprawa płyty, wymiana elementu zasilania, odtworzenie systemu czy korekta konfiguracji aplikacji.