Masz starszego GeForce’a? Możesz zwiększyć jego wydajność prostą metodą

Co prawda sposób dotyczy jedynie tego, jak układ radzi sobie z zadaniami związanymi ze sztuczną inteligencją, ale i tak warto rzucić na niego okiem.

Jeśli posiadasz kartę graficzną z serii NVIDIA GeForce RTX 2000, RTX 3000 lub RTX 4000, a w dodatku pasjonujesz się AI, to istnieje całkiem prosty sposób na poprawę jej wydajności. Jest nim projekt o nazwie nv-uefi-unlocker, pozwalający niemal podwoić wydajność rdzeni Tensor w niektórych operacjach. Eksperymentalnie wspierane są również układy GeForce GTX 1600, choć nie mają one rdzeni Tensor i nie zostały jeszcze przetestowane.

Wspierane są GPU z rodzin Turing, Ampere i Ada Lovelace

Mamy tutaj do czynienia z otwartoźródłowym narzędziem, które można pobrać z serwisu GitHub. Należy przygotować pendrive, a następnie zrestartować PC. Program wystartuje przed załadowaniem systemu operacyjnego i sterowników NVIDIA. Wymaga to jednak odpowiedniej konfiguracji UEFI, w tym wyłączenia funkcji Secure Boot. Całą procedurę trzeba powtarzać po każdym pełnym wyłączeniu zasilania, gdyż zmiany nie są permanentne. I chociaż metoda powinna działać z wymienionymi wcześniej seriami kart graficznych, to nie na wszystkich modelach przeprowadzono jeszcze testy. Obecne wyniki prezentują się następująco:

• Generacja NVIDIA GeForce RTX 2000 – sprawdzono przy udziale układów GeForce RTX 2070 i RTX 2060 SUPER. W przypadku pierwszego z nich odnotowano wzrost wydajności o 67-75% w operacjach GEMM z akumulacją FP32;
• Generacja NVIDIA GeForce RTX 3000 – potwierdzono działanie m.in. na układach GeForce RTX 3060 Ti LHR, RTX 3060, RTX 3070 Laptop, RTX 3080 i RTX 3080 Ti Laptop. Wcześniejsze narzędzia tego typu pozwalały uzyskać wzrost wydajności o 58-85%;
• Generacja NVIDIA GeForce RTX 4000 – sprawdzono przy udziale układu GeForce RTX 4060 Laptop. Odnotowano wzrost wydajności z 29,89 do 49,33 TFLOPS w operacjach FP16 GEMM, czyli o około 65%.

Warto odnotować, że wydajność nie zwiększy się w każdym zadaniu związanym ze sztuczną inteligencją. Korzyści zauważymy przede wszystkim w przypadku operacji wymagających dużej mocy obliczeniowej, wykorzystujących FP16, BF16 i TF32. Mowa m.in. o generowaniu obrazów czy trenowaniu własnych modeli językowych.