Natrag na početnu

# weka

Tehnologija

Skriveni „memory wall” koči razvoj agentičkog AI-ja

GPU-ovi gube do 40 % vremena na ponavljanje izračuna jer KV-keš ne stane u memoriju, pokazuje analiza CTO-a tvrtke WEKA.

min čitanja

Više

Tehnologija

„Zid memorije” koči AI agente, tvrdi stručnjak iz tvrtke WEKA

Shimon Ben-David iz WEKA-e upozorava da golemi kontekst potreban za „stanje-svjesne” AI agente usporava GPU-ove te zahtijeva novu memorijsku infrastrukturu.

min čitanja

Više

Tehnologija

Eksplozija „razumskih” tokena gura troškove AI-a u crveno

Glavni AI direktor WEKA-e upozorava da su stvarni troškovi inferencije negativni: potražnja za tokenima raste 10 000 puta brže od pada njihove cijene.

min čitanja

Više

Natrag na početnu

# weka

Tehnologija

Skriveni „memory wall” koči razvoj agentičkog AI-ja

GPU-ovi gube do 40 % vremena na ponavljanje izračuna jer KV-keš ne stane u memoriju, pokazuje analiza CTO-a tvrtke WEKA.

min čitanja

Više

Tehnologija

„Zid memorije” koči AI agente, tvrdi stručnjak iz tvrtke WEKA

Shimon Ben-David iz WEKA-e upozorava da golemi kontekst potreban za „stanje-svjesne” AI agente usporava GPU-ove te zahtijeva novu memorijsku infrastrukturu.

min čitanja

Više

Tehnologija

Eksplozija „razumskih” tokena gura troškove AI-a u crveno

Glavni AI direktor WEKA-e upozorava da su stvarni troškovi inferencije negativni: potražnja za tokenima raste 10 000 puta brže od pada njihove cijene.

min čitanja

Više