Srhljivo: raziskovalci umetne inteligence domnevno blizu odkritju, ki lahko "ogrozi človeštvo"

Ko je dr. Jure Leskovec, priznani slovenski znanstvenik, ki živi in deluje v ZDA, kjer raziskuje in razvija najpomembnejša odkritja našega časa, vključno z umetno inteligenco, pred kratkim gostoval v Metropolitanovem podkastu Podkast navdiha Boruta Pahorja, je med drugim spregovoril tudi o tem, kakšne so možnosti, da bi umetna inteligenca v znanju nekoč prevladala nad ljudmi.

"Ti sistemi že vedo več, kot vedo ljudje, saj lahko preberejo desettisoče, stotisoče člankov, ki jih nek človek nikoli ne bo mogel," je odgovoril Leskovec. "Da bi pa ti sistemi sami odkrivali novo znanje, tega pa še ni. Če bi to hoteli, morate imeti nekako zaključeno zanko. Imeti morate sistem, ki izvaja eksperimente, se iz teh eksperimentov uči in predlaga nove eksperimente."

Toda ali smo temu bližje, kot smo mislili? Po poročanju več tujih medijev naj bi bili v ameriškem podjetju OpenAI, ki je trenutno najbolj napredno pri raziskovanju umetne inteligence in velja za enega najhitreje rastočih podjetij v zgodovini Silicijeve doline, blizu preboju, ki bi lahko "ogrozil človeštvo".

To naj bi bil pravi razlog za razrešitev Sama Altmana, izvršnega direktorja OpenAI, ki ga je po poročanju spletne strani Tom's Hardware upravni odbor razrešil malo po tem, ko so raziskovalci umetne inteligence pri OpenAI upravni odbor opozorili na potencialno nevarno odkritje umetne inteligence z imenom Q* (izgovarja se kot Q-Star). Q* bi namreč lahko korenito izboljšal sklepanje umetne inteligence in bi ga lahko obravnavali kot velik preboj v razvoju umetne splošne inteligence, je poročal Reuters.

Zaposleni so zahtevali, da se Altman vrne na mesto izvršnega direktorja, saj jih je približno 700 zagrozilo z odpovedjo, tako da je pred nekaj dnevi potrdil, da bo ponovno prevzel funkcijo, a po poročanju 24ur to ne spremeni dejstva, da skrivnostno odkritje še vedno buri duhove in sproža številna ugibanja, kaj so v podjetju v resnici odkrili.

Sredi julija so v podjetju na ameriški patentni urad vložili dokumentacijo za naslednjo generacijo generativnega modela, ki temelji na za zdaj še neznani količini podatkov, GPT-5 (angl. General pretrained transformer). Kmalu za tem so zaokrožile prve govorice, da so pri tem naleteli na prve znake splošne umetne inteligence (AGI). 

Pri OpenAI zadeve za zdaj ne komentirajo, so pa v internem sporočilu sodelavcem priznali projekt, imenovan Q*. Nekateri v podjetju verjamejo, da bi bil prav Q* lahko preboj v iskanju startupa za splošno umetno inteligenco (AGI). Nov model je lahko reševal določene zelo zahtevne matematične probleme, je povedal neimenovan vir iz podjetja. 

Kaj je splošna umetna inteligenca?

AGI je tip umetne inteligence, ki obvlada široko paleto intelektualnih nalog, samostojno pa lahko rešuje tudi kompleksne probleme. Pri tem presega človeške zmogljivosti in na določeni točki lahko razvije tudi lastna čustva in zavedanje.

Številni do te tehnologije skeptični strokovnjaki svarijo pred tem, da bi neregulirana AGI lahko razvila lastne cilje, ki niso usklajeni z interesi človeštva, da bi tehnologijo v napačnih rokah lahko izrabljali v škodljive namene ter nekatere druge etične dileme, piše 24ur.

Za zdaj se svet še vedno ni uskladil, kako to tehnologijo omejiti. Evropska unija denimo pripravlja AI Act oziroma zakon, ki bo podjetjem in raziskovalnim ekipam, ki razvijajo sisteme umetne inteligence, narekoval, kako naj ravnajo s podatki, dokumentacijo ter zagotavljajo transparentnost do uporabnikov. 

Marko Robnik Šikonja, profesor na področju umetne inteligence na Fakulteti za računalništvo in informatiko Univerze v Ljubljani, je za 24ur komentiral, da so špekulacijo o AGI neosnovane, saj naj bi bili še daleč od tega. Med največjimi izzivi je zagotoviti tudi dovolj električne energije za napajanje ogromnih podatkovnih strežnikov, ki bi jih takšna tehnologija potrebovala. Strokovnjaki namreč predvidevajo, da bi AGI potrebovala toliko električne energije, kot je porabi 10 milijonov gospodinjstev.

Novo na Metroplay: "Naš največji uspeh je bil tudi strel v koleno" | Ivo Boscarol