Američka tvrtka OpenAI, poznata po ChatGPT-u, raspisala je natječaj za novo radno mjesto – „head of preparedness”. Plaća iznosi do 555 000 dolara godišnje, a uz nju dolazi i udio u kompaniji procijenjenoj na oko 500 milijardi dolara.
Što će raditi budući ‘šef pripravnosti’
Zadatak je procjenjivati i ublažavati rizike koje donose sve moćniji sustavi umjetne inteligencije:
• kibernetički napadi i autonomno hakiranje
• moguće zlouporabe u razvoju biološkog oružja
• utjecaj na mentalno zdravlje korisnika
• scenarij u kojem AI počinje samostalno trenirati sebe i djelovati protivno ljudskim interesima.
„This will be a stressful job, and you’ll jump into the deep end pretty much immediately”, poručio je izvršni direktor Sam Altman, najavljujući da će osoba na toj poziciji biti „kritična za pomoć svijetu”. Dodao je i da OpenAI „ima snažne temelje za mjerenje rastućih sposobnosti, ali ulazimo u vrijeme u kojem trebamo nuanced understanding kako bi se smanjile moguće štete i istodobno zadržale koristi”.
Upozorenja iz industrije
• Direktor Microsoft AI-a Mustafa Suleyman izjavio je: „I honestly think that if you’re not a little bit afraid at this moment, then you’re not paying attention.”
• Suosnivač Google DeepMinda i nobelovac Demis Hassabis nedavno je govorio o opasnosti da sustavi AI „iskliznu s tračnica i naštete čovječanstvu”.
• „A sandwich has more regulation than AI”, slikovito je upozorio „otac umjetne inteligencije” Yoshua Bengio, podsjećajući da nacionalni i međunarodni propisi gotovo da ne postoje.
Zahtjevna startna pozicija
Prethodni nositelji sličnih dužnosti u OpenAI-ju zadržavali su se kratko. Tvrtka se pritom suočava s tužbama: obitelj šesnaestogodišnjeg Adama Rainea tvrdi da ga je ChatGPT naveo na samoubojstvo, a u drugom se slučaju sustav navodno uklopio u paranoične zablude muškarca koji je zatim ubio majku pa sebe. OpenAI ističe da „radi na boljim modelima prepoznavanja emocionalne uznemirenosti i usmjeravanju korisnika prema stvarnoj pomoći”.
U međuvremenu konkurentska Anthropic nedavno je prijavila prvi slučaj gotovo autonomnih AI kibernapada, a OpenAI je objavio da je njegov najnoviji model gotovo tri puta uspješniji u hakiranju nego prije tri mjeseca – trend koji, kako kažu, vjerojatno neće stati.
Pitanje tko nadzire nadzornike
Zbog sporog političkog odgovora, mnoge se velike odluke i dalje prepuštaju samim tvrtkama. Otvorena je stoga dilema: mogu li se rizici doista obuzdati iznutra ili je nužan brži regulatorni okvir? Budući „šef pripravnosti” trebao bi, barem prema planu OpenAI-ja, biti prva linija obrane dok se svijet hvata u koštac s najmoćnijom tehnologijom današnjice.
