Perplexity stawia na procesory NVIDIA Vera. Rozwój sztucznej inteligencji będzie jeszcze szybszy
Procesory NVIDIA Vera cieszą się rosnącym zainteresowaniem na rynku, a ich konstrukcja zoptymalizowana pod kątem pracy jednowątkowej oraz procesów wnioskowania sprawia, że są idealnym wyborem dla firm takich jak Perplexity.
Najnowszy układ to bardzo ambitny projekt, który według przewidywań ma wygenerować 20 miliardów dolarów przychodu i uczynić NVIDIA wiodącym dostawcą procesorów. Sprzęt trafił już do masowej produkcji i jest wykorzystywany przez takich gigantów technologicznych jak OpenAI, xAI, Oracle czy Anthropic.
Zwiększony popyt na nowoczesne CPU napędzany jest przez obciążenia związane z tak zwaną agentową sztuczną inteligencją, która w znacznie większym stopniu niż tradycyjne zadania opiera się na procesorach centralnych, a nie tylko graficznych. Firmy z branży AI coraz częściej koncentrują się na zwiększaniu możliwości wnioskowania swoich układów, tworząc również własne, niestandardowe rozwiązania.
Do grona zwolenników nowego sprzętu dołączyła właśnie firma Perplexity. Jak zdradził Nate Kupp, wiceprezes firmy, w wywiadzie dla agencji Reuters, procesory NVIDIA Vera okazały się w ich testach 1,5x szybsze od tradycyjnych układów w zadaniach związanych z programowaniem przez agentów AI. Kupp określił ten chip jako idealnie dopasowany do większości kluczowych obciążeń w infrastrukturze firmy. Choć nie ujawniono jeszcze dokładnej liczby zamówionych sztuk ani wartości kontraktu, szeroka adaptacja układu Vera wśród liderów rynku AI wyraźnie potwierdza jego spory sukces.
W najnowszych komunikatach NVIDIA promuje swój produkt jako jedyny na świecie, skalowalny procesor CPU nastawiony na maksymalizację wydajności jednowątkowej. Filozofia opiera się na trzech kluczowych fundamentach. Są to potężna moc obliczeniowa pojedynczego rdzenia pod obciążeniem, odpowiednia przepustowość pamięci zapobiegająca przerwom w dostarczaniu danych do aktywnych rdzeni oraz w pełni przewidywalne opóźnienia. Obciążenia generowane przez agentów AI działają w specyficznej pętli. Procesor wykonuje zadanie, wyniki wracają, po czym model decyduje o kolejnym kroku, a cały cykl powtarza się wielokrotnie.
Standardowe procesory nie są zoptymalizowane pod kątem takiego schematu działania. Dokładanie kolejnych rdzeni nie skraca czasu potrzebnego na wykonanie poszczególnych kroków wewnątrz pętli agenta, a wręcz może obniżyć wydajność z powodu rywalizacji o zasoby systemowe. Z tego powodu inżynierowie zrezygnowali z implementacji nadmiernej liczby rdzeni, skupiając się na ekstremalnej optymalizacji tych obecnych na pokładzie. W świecie, w którym dla klasycznych systemów liczą się sekundy, agenci AI operują w nanosekundach.
Procesor Vera, bazujący na 88 autorskich rdzeniach Olympus, oferuje o 50% wyższą liczbę instrukcji wykonywanych w jednym cyklu zegara w porównaniu do starszej generacji Grace. Jednostkę połączono z ultraszybką pamięcią LPDDR5X o przepustowości 1,2 TB/s przy niezwykle niskim zużyciu energii. Monolityczna konstrukcja matrycy obliczeniowej gwarantuje ciągły dopływ danych do aktywnych rdzeni dzięki przepustowości wewnętrznej na poziomie 3,4 TB/s, co jest wartością trzykrotnie wyższą niż u jakiegokolwiek innego procesora serwerowego dostępnego na rynku.
Pozwala to wszystkim rdzeniom na pełne wykorzystanie wydajności pamięci bez tworzenia wąskich gardeł. NVIDIA podaje, że w równoległych środowiskach testowych wzrost wydajności procesora wynosi aż 90 procent w porównaniu z klasycznymi konstrukcjami x86. Zewnętrzni partnerzy donoszą z kolei o trzykrotnie szybszym działaniu przy rozległych analizach SQL w narzędziu Starburst oraz sześciokrotnie mniejszych opóźnieniach w strumieniowaniu na żywo za pomocą platformy Redpanda. Na fali tego sukcesu NVIDIA już zapowiada swojego kolejnego serwerowego giganta pod kryptonimem Rosa, który ma wykorzystać nową architekturę rdzeni Rigel i jeszcze odważniej rzucić wyzwanie rynkowym konkurentom z obozu x86.
