Google zaprezentował TurboQuant, algorytm kompresji AI, który ma 6‑krotnie zmniejszyć zapotrzebowanie na pamięć. To cios w producentów i nadzieja na niższe ceny RAM.
W skrócie:
- Google opracował TurboQuant, nowy algorytm kompresji AI. Ma on sześciokrotnie zmniejszyć zużycie pamięci operacyjnej przez duże modele językowe podczas ich działania.
- Wiadomość wywołała spadki na giełdzie. Firmy takie jak Micron, SanDisk i Western Digital odnotowały natychmiastową, negatywną reakcję rynku na wieść o nowej technologii.
- Rozwiązanie ma ograniczenia. TurboQuant działa tylko na etapie wnioskowania (inference), a nie trenowania AI, które wciąż będzie wymagało ogromnych zasobów pamięci DRAM.
Od blisko pół roku obserwujemy spektakl, którego nikt z nas nie zamawiał. Rynek elektroniki użytkowej znalazł się w potrzasku, a ceny pamięci operacyjnej poszybowały w kosmos. Przyczyna jest prosta i nazywa się sztuczna inteligencja. Jej nienasycony apetyt na układy z gigantyczną ilością pamięci wywołał lawinę. Popyt eksplodował, producenci zwęszyli interes życia, a zwykli użytkownicy – cóż – zostali z rachunkami. Moduł DDR5 o pojemności 32 GB, który jeszcze niedawno można było kupić za 400 złotych, dziś kosztuje cztery razy tyle. Podrożało wszystko: karty graficzne, laptopy, a nawet smartfony. W tym gęstniejącym mroku Google odpalił jednak małą latarkę. Nazywa się TurboQuant i może, ale tylko może, trochę namieszać.
Jak dokładnie działa TurboQuant?
TurboQuant nie jest kolejnym marketingowym hasłem. To zaawansowany algorytm kompresji, również oparty na sztucznej inteligencji, który ma jeden cel: zmusić duże modele językowe do oszczędności. Google twierdzi, że jego rozwiązanie potrafi zmniejszyć zapotrzebowanie modelu AI na pamięć roboczą co najmniej sześciokrotnie, a wszystko to bez zauważalnego spadku wydajności czy precyzji odpowiedzi. To nie wszystko. Inżynierowie z Mountain View obiecują jednocześnie nawet ośmiokrotne przyspieszenie obliczeń na flagowych procesorach graficznych NVIDIA H100. Brzmi jak bajka, prawda? W praktyce oznacza to, że modele AI mogłyby przetwarzać znacznie więcej danych kontekstowych przy mniejszym “głodzie” na zasoby. A mniejszy głód to niższe koszty infrastruktury. A niższe koszty to – przynajmniej w teorii – mniejsza presja na rynek komponentów.
Dlaczego producenci pamięci mają powody do paniki?
Giełda nie czeka na szczegółowe analizy. Reaguje instynktownie. I zareagowała. Informacja o TurboQuant wystarczyła, by notowania głównych graczy na rynku pamięci – firm takich jak Micron, SanDisk czy Western Digital – zanurkowały. To logiczna konsekwencja. Jeśli technologia Google faktycznie się upowszechni, złote żniwa producentów mogą się skończyć. Ogromny popyt generowany przez centra danych budowane pod AI jest dziś głównym motorem napędowym ich zysków. Perspektywa, w której zapotrzebowanie na pamięć DRAM i NAND nagle maleje, to dla nich scenariusz z koszmaru. Ktoś wreszcie powiedział “sprawdzam”, a rynek, który od miesięcy windował ceny, poczuł pierwszy, delikatny powiew zmiany. Oczywiście, panika jest na razie przedwczesna, ale nikt nie lubi, gdy psuje mu się tak dochodowy biznes.
Czy to już czas na wstrzymanie oddechu?
Zanim jednak ruszymy do sklepów w oczekiwaniu na historyczne obniżki, warto wziąć głęboki oddech. TurboQuant to na razie technologia w fazie laboratoryjnej. Co prawda Google zapowiada, że udostępni ją za darmo, ale od zapowiedzi do masowego wdrożenia droga bywa długa i wyboista. Jest też jedno, ale za to fundamentalne, ograniczenie. Algorytm optymalizuje zużycie pamięci wyłącznie w momencie wnioskowania (ang. inference), czyli wtedy, gdy model AI już działa i generuje odpowiedzi. Nie dotyka on natomiast procesu trenowania, czyli etapu, na którym sztuczna inteligencja jest “uczona” i który pochłania absolutnie gargantuiczne ilości zasobów. Trening wciąż będzie wymagał farm serwerów po brzegi wypełnionych drogą pamięcią DRAM. Pomimo tego, TurboQuant to pierwszy od wielu miesięcy realny sygnał, że kryzys na rynku pamięci nie musi trwać wiecznie. Nadzieja jest nikła, ale – w przeciwieństwie do cen RAM‑u – przynajmniej jest.