Startup Gimlet Labs zebrał 80 mln USD. Ich oprogramowanie rozwiązuje problem marnowania mocy AI, przyspieszając inferencję nawet 10-krotnie. To rewolucja.
W skrócie:
- Startup Gimlet Labs pozyskał 80 milionów dolarów w rundzie Serii A na rozwój platformy, która optymalizuje wykorzystanie sprzętu do obliczeń w dziedzinie sztucznej inteligencji.
- Jego autorskie oprogramowanie pozwala na jednoczesne uruchamianie zadań AI na różnych typach układów (CPU, GPU), co zwiększa wydajność nawet 10-krotnie i znacząco redukuje koszty.
- Za projektem stoi Zain Asgar, profesor ze Stanforda. Firma już w momencie startu generowała ośmiocyfrowe przychody i współpracuje z gigantami takimi jak NVIDIA, AMD i Intel.
Świat sztucznej inteligencji ma pewien wstydliwy sekret. Wszyscy mówią o przełomowych modelach, niewyobrażalnych możliwościach i rewolucji, która zmienia każdą branżę, ale mało kto wspomina o koszmarnej nieefektywności, która za tym stoi. Obecne systemy AI działają jak silniki V8 w korku – palą gigantyczne zasoby, by ruszyć o kilka metrów. Według szacunków McKinsey, jeśli ten trend się utrzyma, do 2030 roku wydatki na centra danych sięgną niemal 7 bilionów dolarów. Tymczasem większość tego drogiego sprzętu po prostu się nudzi. I tu na scenę wkracza Gimlet Labs, startup z pomysłem tak prostym, jak genialnym.
Jak marnujemy setki miliardów dolarów na AI?
Zain Asgar, współzałożyciel Gimlet Labs i profesor na Uniwersytecie Stanforda, nie bawi się w dyplomację. Jego zdaniem aplikacje AI wykorzystują wdrożony już sprzęt zaledwie w “około 15 do 30 procentach” czasu. Reszta to czyste marnotrawstwo. “Inaczej mówiąc: trwonisz setki miliardów dolarów, ponieważ zostawiasz zasoby bezczynnie” – stwierdził w rozmowie z TechCrunch. To fundamentalny problem sztucznej inteligencji, zwłaszcza w procesie inferencji, czyli wykorzystywania wytrenowanego modelu do generowania odpowiedzi. Problem, który kosztuje fortunę i hamuje rozwój.
Każde zadanie stawiane przed zaawansowanym agentem AI to w rzeczywistości łańcuch mniejszych operacji. Jak tłumaczy Tim Tully z Menlo Ventures, funduszu, który przewodził rundzie inwestycyjnej: “Inferencja jest ograniczona przez moc obliczeniową, dekodowanie przez pamięć, a wywołania narzędzi przez sieć”. Żaden pojedynczy chip nie jest mistrzem we wszystkim. Mamy więc potężne, wyspecjalizowane układy GPU, które czekają, aż mniej wydajne CPU skończą swoją pracę. To technologiczny odpowiednik orkiestry symfonicznej, w której każdy muzyk gra swoją partię solo, zamiast tworzyć harmonijną całość.
Orkiestrator chaosu, czyli co właściwie robi Gimlet Labs?
Rozwiązanie Asgara i jego zespołu – Michelle Nguyen, Omid Azizi i Natalie Serrino – to oprogramowanie, które działa jak genialny dyrygent dla tej chaotycznej orkiestry. Gimlet Labs stworzyło coś, co nazywa pierwszą i jedyną “wielokrzemową chmurą inferencyjną”. W praktyce jest to inteligentny system, który dzieli zadania AI na plasterki i rozdziela je jednocześnie pomiędzy różne typy dostępnego sprzętu – od tradycyjnych procesorów CPU, przez wyspecjalizowane układy GPU, aż po systemy z dużą ilością pamięci RAM. “Zasadniczo działamy na każdym dostępnym sprzęcie” – podsumowuje Asgar.
Efekty są zdumiewające. Firma twierdzi, że jej technologia niezawodnie przyspiesza inferencję AI od 3 do 10 razy przy zachowaniu tych samych kosztów i zużycia energii. System potrafi nawet podzielić sam model językowy tak, by jego fragmenty działały na architekturach, które najlepiej sobie z nimi radzą. To nie jest kolejna aplikacja dla deweloperów-hobbystów. Gimlet celuje w największych graczy: laboratoria tworzące fundamentalne modele AI oraz gigantyczne centra danych. Nic dziwnego, że do partnerstwa udało im się przekonać takie tuzy jak NVIDIA, AMD, Intel, ARM, Cerebras i d‑Matrix.
Kto stoi za projektem, który przyciągnął 92 miliony dolarów?
Inwestorzy z Doliny Krzemowej nie stawiają pieniędzy na sam pomysł. Stawiają na ludzi, którzy potrafią go zrealizować. Zespół Gimlet Labs ma już na koncie spory sukces. Wcześniej założyli firmę Pixie, tworzącą narzędzie open source dla platformy Kubernetes. Pixie zostało kupione przez New Relic w 2020 roku, zaledwie dwa miesiące po starcie z rundą Serii A na 9 milionów dolarów. To się nazywa szybkie wyjście.
Gdy wieść o nowym projekcie Asgara rozeszła się po rynku, telefony zaczęły dzwonić. Po publicznym starcie firmy w październiku na biurku założyciela wylądowała pierwsza oferta inwestycyjna. To uruchomiło lawinę. Runda na 80 milionów dolarów, prowadzona przez Menlo Ventures, została błyskawicznie zamknięta z nadsubskrypcją. Łącznie, wliczając rundę zalążkową, startup zebrał już 92 miliony dolarów. Firma, która zatrudnia obecnie 30 osób, już w momencie startu mogła pochwalić się ośmiocyfrowymi przychodami (czyli co najmniej 10 milionami dolarów), a w ciągu ostatnich czterech miesięcy podwoiła bazę klientów, w tym o jednego z głównych twórców modeli AI i wielką firmę chmurową. Ich nazwy pozostają tajemnicą. Przynajmniej na razie.