AMD i Intel łączą siły. Rozszerzenia ACE znacząco przyspieszą obliczenia sztucznej inteligencji

W ubiegłym roku firmy Intel oraz AMD ogłosiły powołanie grupy doradczej do spraw ekosystemu x86, mającej na celu standaryzację kluczowych funkcji i zapewnienie skalowalności tej architektury w nadchodzących latach.

Owocem tej bezprecedensowej współpracy jest najnowsza publikacja techniczna opisująca działanie rozszerzeń ACE (czyli tzw. AI Compute Extensions). Technologia ma stanowić zunifikowany standard akceleracji obliczeń macierzowych, który zauważalnie zwiększy wydajność sztucznej inteligencji, jej energooszczędność oraz ogólną skalowalność na tradycyjnych procesorach.

Mnożenie macierzy stanowi absolutny fundament działania współczesnych sieci neuronowych oraz dużych modeli językowych. Obecnie stosowane instrukcje, takie jak na przykład AVX10, oferują pewne wsparcie w tym zakresie, jednak ich potencjał i gęstość obliczeniowa przy zaawansowanych zadaniach bywają mocno ograniczone. Nowe rozwiązanie opracowane wspólnie przez obu producentów bezproblemowo integruje się z zestawem AVX10, wprowadzając akcelerację opartą na zewnętrznym iloczynie wektorowym.

Pozwala to na uzyskanie aż szesnastokrotnie większej gęstości obliczeniowej w porównaniu do standardowych operacji mnożenia i akumulacji, przy jednoczesnym zachowaniu tej samej liczby wektorów wejściowych. Rozszerzenia natywnie obsługują najpopularniejsze formaty danych wykorzystywane w uczeniu maszynowym, w tym INT8, OCP FP8, OCP MXFP8 oraz BF16.

Skalowalność proponowanego standardu umożliwi jego bezproblemowe wdrożenie w szerokim spektrum urządzeń, począwszy od mobilnych laptopów, a skończywszy na potężnych superkomputerach. Zgodnie z oficjalnymi informacjami przekazanymi w dokumencie, trwają już zaawansowane prace nad implementacją niezbędnego oprogramowania i wsparcia w kluczowych środowiskach badawczych. Obejmuje to integrację z popularnymi bibliotekami takimi jak NumPy i SciPy oraz platformami uczenia maszynowego pokroju PyTorch i TensorFlow.

Warto w tym miejscu przypomnieć słowa dyrektora generalnego NVIDIA, który niedawno otwarcie przyznał, że ścisły sojusz dotychczasowych rywali był niezbędnym krokiem do tego, aby utrzymać architekturę x86 przy życiu w erze dynamicznego rozwoju sztucznej inteligencji.