NVIDIA przyspiesza lokalne AI na kartach RTX i systemach DGX. Nowe modele i duże optymalizacje
NVIDIA wydała zestaw aktualizacji dla platform RTX oraz DGX, wprowadzając optymalizacje dla kolejnych otwartych modeli sztucznej inteligencji. Wśród oficjalnie obsługiwanych rozwiązań znalazły się m.in. Cosmos 3 Edge, MiniMax-H3, Laguna S 2.1, DeepSeek V4-Flash, Wan-Animate-2 oraz Inkling-Small, a także otwarta aplikacja Unsloth Desktop, służąca do lokalnego uruchamiania, dostrajania i analizowania modeli.
Jedną z kluczowych nowości jest optymalizacja pod kątem zaprezentowanego przez firmę Meta modelu Muse Glimmer (30B). Został on zaprojektowany do pracy z lokalnymi agentami AI i zadaniami programistycznymi. W połączeniu z kartą GeForce RTX 5090 model ten pozwala na generowanie tekstu z prędkością przekraczającą 200 tokenów na sekundę, umożliwiając przy tym lokalne przetwarzanie poufnych danych bez wysyłania ich do chmury.
Zmiany objęły również generowanie wideo za pomocą modelu LTX 2.5 z otwartym kodem źródłowym. Dzięki nowym optymalizacjom i wykorzystaniu standardu NVFP4, użytkownicy kart z serii RTX oraz stacji DGX mogą liczyć na dwukrotny wzrost wydajności przy jednoczesnym ograniczeniu zużycia pamięci VRAM nawet o 40%. Model ten zyskał także obsługę generowania ujęć wielokrotnych oraz edycji generatywnej.
Wsparcie otrzymała również platforma DGX Spark. NVIDIA udostępniła narzędzie "Sync Cluster Assistant", które ułatwia łączenie dwóch lub większej liczby urządzeń w szybki klaster obliczeniowy pod kontrolą systemów Windows i macOS. Zestaw nowości dla tej platformy zamyka natywna wersja przeglądarki Google Chrome dla architektury ARM64 (na Linuxie) oraz panel "Sync Resource Monitor" do monitorowania obciążenia procesorów i układów graficznych w czasie rzeczywistym.
