Skrivni vpliv umetne inteligence: varuh odkriva šokantne grožnje

Večina pozornosti v zvezi z umetno inteligenco se osredotoča na potencial za podporo gospodarski rasti, manj pa vprašanju njenega vpliva na temeljne pravice, je danes na mednarodnem dogodku o vplivu umetne inteligence na človekove pravice opozoril varuh človekovih pravic Peter Svetina. Zavzel se je za razvoj v smeri krepitve temeljnih svoboščin.

Razvoj umetne inteligence in nove tehnologije ustvarjajo velike priložnosti, a hkrati tudi tveganja glede spoštovanja človekovih pravic, so besede Svetine v sporočilu za javnost povzeli v njegovem uradu. "Nujno je, da se tehnološki razvoj umetne inteligence odvija v ustreznih pravno-etičnih okvirjih, ki bodo obstoječe ravni spoštovanja človekovih pravic in temeljnih svoboščin vsakega posameznika okrepili in utrdili legitimne demokratične procese," je izpostavil varuh.

Evropska mreža nacionalnih institucij za človekove pravice (ENNHRI), katere članica je tudi slovenska institucija varuha, je že pripravila svoja stališča k predlogu uredbe Evropskega parlamenta in Sveta EU o določitvi harmoniziranih pravil o umetni inteligenci ter stališča k osnutku okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in vladavini prava.

ENNHRI je pri tem izpostavila potrebo po nacionalnih nadzornih organih, ki bodo spremljali skladnost z omenjeno konvencijo in prepovedovali prakse, ki predstavljajo nesprejemljivo tveganje z vidika spoštovanja človekovih pravic in enakosti, so zapisali pri varuhu.

"Nacionalne institucije za človekove pravice, ki delujemo v okviru ENNHRI, pozivamo k močnim in učinkovitim zaščitnim orodjem za enakost in temeljne pravice, ki bi zagotovili ustrezno ravnovesje med razvojem in zaupanjem v umetno inteligenco. Prav tako pozivamo, da naj omenjena akta določita sodelovanje z nami in drugimi obstoječimi neodvisnimi institucijami. To vključuje našo pravico do dostopa do informacij o tem, kakšne algoritme uporablja umetna inteligenca, in do podatkov, ki jih zbira za izvajanje svojih nalog. Razvoj tehnologij od vseh, ki si prizadevamo za zaščito pravic in svoboščin, terja zadostno in kakovostno znanje ter jasna pravila, saj bo le tako mogoče preprečiti kršitve pravic in dostojanstva posameznikov," je podčrtal Svetina.

Ker se področje umetne inteligence razvija hitro in se bo njena uporaba v prihodnjem desetletju močno razširila, je opozoril še na odgovornost razvitih zahodnih držav, da na področju umetne inteligence pomagajo državam v razvoju.

Varuh je dvodnevni mednarodni dogodek o vplivu umetne inteligence na človekove pravice z naslovom Co-Lab: AI - ENNHRI Capacity Building Event on Artificial Intelligence organiziral v sodelovanju z ENNHRI. Udeležujejo se ga predstavniki evropskih nacionalnih institucij za človekove pravice iz več kot 30 držav in drugi mednarodni strokovnjaki. Na dogodku je v izmenjavi pogledov o umetni inteligenci sodelovala tudi ministrica za digitalno preobrazbo Emilija Stojmenova Duh.

Novo na Metroplay: "Naš največji uspeh je bil tudi strel v koleno" | Ivo Boscarol