Chris Lattner, poznat po razvoju LLVM-a i Appleova jezika Swift, te bivši Googleov inženjer Tim Davis prije dvije godine pokrenuli su Modular s idejom da razbiju „softverski stisak” koji nad tržištem GPU-a drže Nvidia i AMD. Tvrtka razvija sloj softvera koji omogućuje da se isti kod neometano izvršava na različitim procesorima i grafičkim karticama, uključujući Apple Silicon, Nvidijine i AMD-ove čipove.
• Nova investicijska runda: 250 milijuna USD
• Ukupna procijenjena vrijednost tvrtke: 1,6 milijardi USD
• Vodeći ulagač: US Innovative Technology Fund iz Pittsburgha
• Ostali investitori: DFJ Growth, General Catalyst, Greylock i GV (bivši Google Ventures)
„Potražnja za računalnom snagom eksplodira, ali ne postoji jedinstvena platforma za računanje”, rekao je Lattner, dodajući da će „postojati mnogo različitih čipova optimiziranih za razne zadatke, a potreban je zajednički sloj koji ih spaja”.
Modular već surađuje s Nvidijom, AMD-om i Amazonom kako bi njihovi developeri testirali novi pristup, a s kalifornijskim SF Computeom izgradio je, kako tvrde, najjeftiniji API za rad s velikim AI modelima. Ovoga je tjedna podrška proširena i na Appleove GPU-e.
Glavni problem koji tvrtka želi riješiti jest dugogodišnja fragmentacija softvera za grafičke kartice. Nvidijin zatvoreni ekosustav CUDA drži najveći dio tržišta, dok je AMD-ov otvoreni ROCm tehnički pristupačniji, ali razvijatelji i dalje teško prenose kod s jedne platforme na drugu. Modular zato nudi i novi jezik temeljen na Pythonu, čime želi pojednostaviti razvoj i ubrzati izvođenje AI aplikacija bez obzira na hardver.
Dave Munichiello iz GV-a ističe da se njegova odluka o ulaganju svodi baš na to: „Sva poduzeća koja pokušavaju graditi vlastiti čip, pa čak i veliki igrači poput AMD-a i Nvidije, na kraju se vraćaju na pitanje softvera.”
Stručnjaci upozoravaju da je pisanje brzih GPU jezgri i dalje „mračna umjetnost” kojom se bavi tek šačica programera. Neki, poput start-upa Mako, vjeruju da će rješenje biti AI alati koji automatiziraju taj posao. Modular pak tvrdi da je nužno adresirati cijeli razvojni niz – od koda do kompajlera i optimizacijskih jezgri.
Lattner priznaje da je projekt prezahtjevan za tipične korporativne strukture: „Shvatili smo da problem nije u pametnim ljudima ni u novcu, nego u strukturi.” Investitori su mu zasad dali 250 milijuna razloga da pokaže kako se struktura može promijeniti izvana.