Natrag na početnu

# kvtc

Tehnologija

Nvidia smanjuje glad za memorijom velikih jezičnih modela novom tehnikom kodiranja

KV Cache Transform Coding komprimira memoriju transformera do 20 puta i ubrzava generiranje odgovora, najavljuje Nvidia.

min čitanja

Više