Raziskovalec Jacob Coxon je po treh letih dela v samem vrhu razvoja umetne inteligence odstopil. V odmevni objavi opozorila ne varčuje z besedami: vodilni laboratoriji drvijo proti samooizboljšujoči se superinteligenci in se pri tem neodgovorno igrajo z usodo človeštva.
Svet umetne inteligence je tresla nova odmevna novica iz samega jedra industrije. Jacob Coxon, ki je zadnja tri leta delal kot raziskovalec na področju prednaučenja (pretraining) v dveh največjih gigantih generativne AI – OpenAI in Anthropic –, je javno sporočil, da odstopa s svojega položaja. Razlog? Po njegovem mnenju se nobeno od obeh podjetij ne obnaša odgovorno.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
"To ni marketinški trik, strah je zelo resničen"
Coxon v svoji objavi na družbenem omrežju X odpira vrata v zakulisje ustvarjanja umetne inteligence in boja za prevlado na tem področju, kjer je razpoloženje povsem drugačno od tistega, ki ga podjetja prikazujejo medijem. Nevarnost, da bi nas umetna inteligenca uničila, po njegovih besedah ni zgolj znanstvena fantastika ali strategija za privabljanje vlagateljev.
"Ljudje, ki gradijo umetno inteligenco, iskreno verjamejo, da nas lahko vse pobije do konca desetletja. To ni marketinški trik," opozarja Coxon. "Mnogi direktorji in višji raziskovalci v medijih sicer pazijo na svoje besede, da bi zveneli razumno – a iste ljudi v zasebnih pogovorih poslušam, kako izražajo strah. Nobena druga človeška dejavnost ne predstavlja takšne ravni nevarnosti."
OpenAI brez zavedanja, Anthropic ujet v dirko
Zakaj torej vodilni umi še naprej razvijajo nekaj, kar dojemajo kot obstoječo grožnjo? Coxon v svoji objavi obenem tudi razkriva razlike v kulturi obeh vodilnih podjetij. Po njegovem mnenju se mnogi zaposleni pri OpenAI sploh še niso globoko soočili s civilizacijskimi posledicami in tveganji, ki jih prinaša tehnologija.
V podjetju Anthropic pa se tveganj sicer dobro zavedajo, vendar so ujeti v začarani krog tekmovanja. Verjamejo namreč, da nihče drug ne bo ravnal odgovorno, zato morajo superinteligenco prvi razviti sami – kljub enormnemu tveganju.
"Sprejetje te dirke in vstop v 'končnico' je napihnjena hazarderska poteza, ki se ne bi smela sprožiti iz Slacka zasebnega podjetja," je oster nekdanji raziskovalec.
Poziv k zamrznitvi razvoja zmogljivosti
Kljub resnosti razmer Coxon ostaja zmeren optimist glede možnosti mednarodnega usklajevanja. Meni, da so opozorilni dogodki, kot je bil nedavni napad na platformo Hugging Face, odpreti vrata za dogovore o nadzoru tempa razvoja med ameriškimi laboratoriji.
Kljub temu opozarja, da trenutno nismo na pravi poti, da bi preprečili globalno dirko v naoruževanju z AI, kar bi utegnilo zahtevati radikalne ukrepe – vključno z začasno prepovedjo izboljševanja zmogljivosti modelov.
Na koncu se je Coxon neposredno obrnil še na svoje nekdanje kolege v raziskovalnih laboratorijih:
"Ali res želite sprožiti zagon superinteligentnega spodbujevalnega učenja (RL) brez temeljitega razumevanja njegovega uma? Boste le povesili glavo, ker 'se to pač dogaja' – ali boste izkoristili ta trenutek in pozvali k drugačnim pogojem?"
