IBM je lansirao Granite 4.0, novu generaciju svoje otvorene obitelji velikih jezičnih modela (LLM-ova) koja, prema internim i neovisnim mjerilima, donosi visoke performanse uz smanjene zahtjeve za memorijom i troškovima.
Granite 4.0 dolazi pod poslovno povoljnom licencijom Apache 2.0, što omogućuje slobodno preuzimanje, prilagodbu i komercijalno korištenje. Tvrtka naglašava da je ovo ujedno prva obitelj otvorenih modela s certifikatom ISO 42001 za upravljanje i transparentnost umjetne inteligencije.
Ključni tehnološki iskorak je hibridna arhitektura koja kombinira transformatore – dominantnu tehnologiju od 2017. – s novijim pristupom Mamba, predstavljenim krajem 2023. Razlika je u načinu obrade tokena:
• Transformeri istodobno uspoređuju svaki token sa svim ostalima, što osigurava bogat kontekst, ali zahtijeva kvadratičnu potrošnju resursa. • Mamba prolazi kroz tekst sekvencijalno, linearnom složenošću, pa je učinkovitija na dugim dokumentima i pri velikom broju upita.
Spajanjem Mamba-2 slojeva s blokovima transformera, IBM želi „najbolje od oba svijeta”: precizno razumijevanje konteksta uz znatno manju potrošnju memorije. Model je posebno optimiziran za zadatke agentične umjetne inteligencije, poput izvršavanja uputa, pozivanja funkcija i rada s RAG sustavima.
Objava je stigla u trenutku pojačane konkurencije na području otvorenih LLM-ova. Nakon posrtaja Meta-ina Llama 4 i odgode njezine najjače varijante, IBM-ovu inicijativu mnogi vide kao povratak američkih tvrtki u utrku s novom generacijom snažnih kineskih otvorenih modela, ponajprije iz Alibabina tima Qwen. AI inženjer Alexander Doria duhovito je to sažeo uz meme iz filma „Smrtonosno oružje”: „ibm suiting up again after llama 4 fumbled” i „we finally have western qwen”.
Granite 4.0 predstavlja i prvu punu verziju IBM-ova hibrida; ranije je u opticaju bila samo ograničena „Tiny Preview” iteracija. Sada je na raspolaganju cijela paleta modela, kriptografski potpisanih radi provjere autentičnosti.
Ako se obećanja o boljoj učinkovitosti i preciznosti potvrde u praksi, Granite 4.0 mogao bi postati privlačna opcija za poduzeća koja traže moćan, ali financijski prihvatljiv otvoreni LLM za vlastite AI agente i aplikacije.