Twoja stara karta graficzna może być dwa razy szybsza! NVIDIA doskonale o tym wie

Twoja karta graficzna może być znacznie szybsza niż mogłoby się wydawać. Moderzy znaleźli sposób, aby odblokować ukrytą moc GeForce RTX 30 i RTX 40, a po aktualizacji także RTX 20, i to bez kombinowania ze sterownikami.

Obie modyfikacje dotyczą obliczeń macierzowych (kluczowych dla AI). W przypadku Ampere, czyli RTX 30, chodzi o odblokowanie tempa instrukcji FP/BF16 FMA z akumulacją FP32. Efekt? RTX 3090 Ti skacze w mnożeniu macierzy BF16 z 87,5 do 157,4 TFLOPS-ów. To wzrost o około 80%.

Podobny trik zadziałał na architekturze Ada Lovelace. W teście RTX 4090 wydajność Tensor Core w FP16 wzrosła ze 165,6 do 331,6 TFLOPS-ów, czyli uzyskała prawie dwukrotnie większą wydajność. W praktyce to wyniki kojarzone z dużo droższymi kartami profesjonalnymi. Rozwiązanie obejmuje układy AD102, AD103 i AD106, a w Ampere GA102, GA103, GA104 i GA106.

Co ciekawe, technikę rozszerzono na starsze Turingi. Pokazano RTX 2080 Ti, który z 59,9 TFLOPS wskoczył na 111 TFLOPS. Dla osób stawiających lokalne modele językowe oznacza to szybsze działanie - w przybliżeniu nawet o 33-36%. Ale jak zwykle jest haczyk.

Mody działają na standardowych sterownikach i przechodzą testy CUDA, ale nie przyspieszą każdej gry. Zysk dotyczy głównie AI i ciężkich mnożeń macierzy. Mod wymaga aktywacji przy starcie systemu i może unieważnić gwarancję. To zabawa dla osób znających się na temacie, ale pokazuje ile ukrytej mocy drzemie w kartach NVIDIA, o czym zapewne firma doskonale wiedziała.