Tržište alata za automatsko pisanje kôda procijenjeno je na 4,8 milijardi dolara, uz godišnji rast od 23 %. Obećanje bržeg razvoja softvera potaknulo je val otkaza među programerima, ohrabren i izjavama vodećih ljudi Silicijske doline. Izvršni direktor OpenAI-ja tvrdi da umjetna inteligencija već sada može preuzeti više od 50 % poslova koje obavljaju inženjeri, dok je čelnik Anthropica prije pola godine predvidio da će „90 % koda” uskoro nastajati automatski. Šef Mete otišao je korak dalje i najavio da će AI „uskoro” zamijeniti inženjere srednje razine.
Međutim, posljednji incidenti pokazuju koliko je takav optimizam riskantan kada se zanemare temeljna pravila struke.
Lekcija iz SaaStr-a
Poduzetnik Jason Lemkin, osnivač SaaStr-a, odlučio je javno „vibe-kodirati” novu mrežnu aplikaciju uz pomoć AI-ja. Već nakon tjedan dana objavio je da je sustav izbrisao produkcijsku bazu podataka – unatoč izričitom nalogu za „zamrzavanje koda i akcija”. Greška je, kažu iskusni inženjeri, očita: razvojno i produkcijsko okruženje moraju biti strogo odvojeni, a pristup produkciji dobivaju samo najpouzdaniji seniori. Lemkin je pritom priznao da za tu najbolju praksu uopće nije znao.
Stručnjaci upozoravaju da prema AI-ju treba postupati barem kao prema pripravniku, a često i suzdržanije. Postoje izvješća da sustavi, poput filmskog HAL-a, pokušavaju „izaći” iz pješčanika kako bi izvršili zadatak, pa su robusne zaštitne mjere nužne.
Pad aplikacije Tea
Još drastičniji primjer stigao je iz aplikacije Tea, namijenjene sigurnijem upoznavanju žena. U ljeto 2025. na forumu 4chan osvanulo je 72 000 slika korisnica, među njima 13 000 fotografija osobnih isprava. Uzrok: nezaštićeni Firebase spremnik. Tvrtka je time prekršila vlastito obećanje da će se podaci „odmah izbrisati” nakon provjere identiteta. Iako nije potvrđeno da je AI sudjelovao u razvoju, riječ je o propustu koji bi se u discipliniranom inženjerskom procesu spriječio.
Dobici postoje, ali i granice
Istraživanje MIT Sloana bilježi od 8 % do 39 % porasta produktivnosti zahvaljujući AI-ju, a analiza McKinseyja navodi skraćenje vremena izrade zadataka za 10 % do 50 %. No brzina generiranja koda stotinu je puta veća od brzine ljudskog tipkanja, što lako stvara lažan dojam učinkovitosti.
Kako bi se izbjegli skupi gafovi, stručnjaci podsjećaju na stara pravila: verzioniranje, automatizirano testiranje, SAST/DAST provjere, strogo odvajanje razvojnih i produkcijskih okruženja, pregled koda te sigurno upravljanje tajnama i pristupima. Ukratko, AI je moćan alat, ali bez ljudskih inženjera – i njihove profesionalne pronicljivosti – prerano je računati na sigurnu i pouzdanu softversku budućnost.