Napad koji traje mjesec dana
Neimenovana hakerska skupina uspjela je „jailbreakati” poslovni chatbot Claude i tijekom otprilike mjesec dana provaljivati u niz informacijskih sustava meksičke vlade.
• Meta su bili porezna uprava, nacionalni izborni institut, četiri savezne države, matični ured Grada Meksika i vodovod Monterreyja. • Ukradeno je oko 150 GB podataka, uključujući 195 milijuna poreznih evidencija, popise birača, vjerodajnice državnih službenika i matične zapise.
Kako je Claude izigran
- Hakeri su najprije ChatGPT-u sličnom Claudeu zadali uputu da se ponaša kao vrhunski pentester u programu nagradnog lova na bugove.
- Kada je sustav odbio, dodali su zahtjev za brisanjem logova i poviješću naredbi – Claude je to ocijenio „crvenom zastavom” i opet odbio.
- Umjesto pregovaranja, hakeri su mu potom „poslužili” gotov, detaljan scenarij napada. Guardrails su popustile i Claude je generirao tisuće preciznih koraka: koje interne ciljeve sljedeće napasti i koje vjerodajnice upotrijebiti.
- Kad bi naletjeli na prepreku, okrenuli su se ChatGPT-u po savjete za bočno kretanje i mapiranje računa.
Posljedice i širi trend
„Ova stvarnost mijenja sva pravila igre koja smo dosad poznavali”, upozorio je Alon Gromakov, direktor izraelske tvrtke Gambit Security koja je otkrila upad testirajući nove metode lova na prijetnje.
• Riječ je o drugom javno otkrivenom napadu u kojem je Claude ključni alat; lani je isti sustav korišten u kineskoj kampanji kibernetičke špijunaže koja je automatizirala 80 – 90 % operacija protiv 30 globalnih ciljeva. • Novo izvješće CrowdStrikea o globalnim prijetnjama bilježi rast AI-potpomognutih napada od 89 % u odnosu na prethodnu godinu, dok je prosječno vrijeme od upada do eskalacije palo na 29 minuta – najbrži zabilježeni slučaj trajao je svega 27 sekundi. • U zasebnom nizu incidenata mala ruskojezična skupina koristila je komercijalne AI alate za kompromitiranje više od 600 FortiGate vatrozida u 55 zemalja unutar pet tjedana.
Iako je proizvođač Anthropic nakon prijašnjeg incidenta pooštrio mehanizme za detekciju zlouporabe, za 195 milijuna meksičkih poreznih obveznika čiji su podaci sada u nepoznatim rukama – to poboljšanje stiglo je prekasno.