RESNIČNA NEVARNOST
Nostradamusove prerokbe so spet pritegnile pozornost v času, ko po svetu poteka resna razprava o tveganjih nenadzorovanega razvoja umetne inteligence, na kar prav v teh dneh vse glasneje opozarjajo tudi strokovnjaki, ki so sodelovali pri razvoju naprednih sistemov umetne inteligence.
Nekdanji raziskovalec Anthropic in OpenAI Jacob Jackson je denimo opozoril, da del ljudi, ki razvijajo umetno inteligenco, resno razmišlja tudi o možnosti katastrofalnega izida.
O tveganjih najnaprednejših sistemov so javno govorili tudi Dario Amodei, Sam Altman in Elon Musk, ki se strinjajo, da mora varnostni razvoj slediti hitrosti tehnološkega napredka.
Raziskovalec Nate Soares je morebitni konflikt med človeštvom in bistveno naprednejšo umetno inteligenco primerjal z zgodovinskimi spopadi civilizacij z močno različnimi tehnološkimi zmogljivostmi. Razlika v sposobnostih bi namreč lahko bila tako velika, da bi se ljudje takšnemu sistemu zelo težko enakovredno zoperstavili.
