Američka tvrtka za umjetnu inteligenciju Anthropic odbila je zahtjev Ministarstva obrane SAD-a da s njezina modela Claude ukloni sigurnosne ograničivače i omogući „neograničeni pristup” vojnim korisnicima.
Glavni direktor Dario Amodei poručio je da tvrtka „ne može mirne savjesti” pristati na traženo te je izrazio nadu da će ministar obrane Pete Hegseth „preispitati” prijetnju. Pentagon je, prema internim dopisima, zaprijetio ukidanjem ugovora vrijednog do 200 milijuna dolara i proglašenjem Anthropica „rizikom u opskrbnom lancu” ako se tvrtka ne povinuje do petka navečer.
Ključni prijepor:
- Pentagon želi potpuno isključiti zaštitne mehanizme i dopustiti svaku zakonitu uporabu Claudea.
- Anthropic odbija opcije koje bi omogućile masovni domovinski nadzor ili autonomno oružje koje može ubijati bez ljudske kontrole.
Amodei tvrdi da su takve primjene „izvan onoga što današnja tehnologija može sigurno i pouzdano izvesti”. Dodao je da je „snažna preferencija” tvrtke ostati partner oružanih snaga, ali uz dva tražena sigurnosna filtra.
Pozadina suradnje
• Anthropic je lani potpisao ugovor do 200 milijuna dolara kojim se Claude uključuje u vojne sustave, te je dosad bio jedini AI model odobren za rad u klasificiranim okruženjima.
• Tvrtka je, prema vojnim izvorima, već korištena u operacijama, uključujući nedavno uhićenje venezuelanskog čelnika Nicolása Madura.
• Ove godine i xAI Elona Muska dobio je dopuštenje za rad u istim sustavima, što povećava tržišni pritisak na Anthropic.
Širi kontekst
Brzi razvoj autonomnog naoružanja – primjerice dronova koji mogu nastaviti misiju nakon prekida veze s operaterom – pojačava strahove da bi AI mogao donositi odluke o životu i smrti bez ljudskog nadzora. Anthropic se u javnosti pozicionirao kao jedna od najsigurnijih AI tvrtki, redovito zagovarajući strožu regulativu.
Međutim, tvrtka je ovoga tjedna ublažila internu politiku prema kojoj novi modeli ne izlaze dok se ne potvrdi njihova sigurnost, što je izazvalo dodatne kritike stručnjaka za etiku.
Moguće posljedice
Ako Pentagon formalno označi Anthropic „rizikom u opskrbnom lancu”, drugi dobavljači za vojsku morali bi prekinuti suradnju s tvrtkom. Takva bi zabrana, obično rezervirana za strane protivnike, predstavljala ozbiljan financijski udarac i prijetnju daljnjem poslovanju Anthropica u sektoru obrane.
Za sada obje strane ostaju pri svojim pozicijama: vojska inzistira na punom pristupu, a Anthropic na sigurnosnim zaprekama. Ishod će pokazati može li se tehnološka industrija oduprijeti vojnim zahtjevima kada su u pitanju etika i kontrola smrtonosnih sustava.