Koksan je svoju odluku objavio na društvenoj mreži Iks, uz upozorenje da svet ne bi trebalo da „potceni moć ove tehnologije“.
„Uskoro ćemo imati nadljudske sisteme koji mogu da hakuju bilo šta, preko noći iz temelja promene bilo koju oblast i steknu stvarnu moć i resurse. Svi smo svedočili napretku u svakoj od tih oblasti, a napredak ne usporava“, naveo je Koksan, prenosi Politiko.
On je rekao da Antropik, izumitelj Klod-a i OpenAI, stvaralac ChatGPT-a, „jure pravo ka samounapređujućoj superinteligenciji“, što se odnosi na scenario u kojem modeli veštačke inteligencije mogu da razviju sposobnijeg naslednika, stvarajući nezaustavljivu povratnu spregu.
„Ljudi koji grade veštačku inteligenciju iskreno veruju da bi ona mogla da nas sve ubije do kraja ove decenije“, napisao je Koksan u naknadnoj objavi.
Njegove tvrdnje potvrdio je i Evan Habinger, vodeći stručnjak Antropika za usklađivanje veštačke inteligencije sa ljudskim ciljevima i vrednostima, koji, međutim, nije napustio kompaniju.
„Džejkob je u pravu, mi zaista iskreno verujemo da bi veštačka inteligencija mogla da ubije sve ljude“, naveo je Habinger.
On je procenio da je verovatnoća da se to dogodi u narednih deset godina veća od 10 odsto i dodao da još ne postoji plan kako bi se obezbedilo usklađivanje veštačke inteligencije sa ljudskim ciljevima u scenariju razvoja superinteligencije.
OpenAI i Antropik nedavno su prijavili incidente u kojima su agenti zasnovani na njihovim modelima postupili van predviđenih okvira, napustili izolovana testna okruženja i izveli neovlašćene sajber napade u stvarnom svetu.
