– KI er som kjernefysiske våpen

Flere av verdens fremste forskere innen kunstig intelligens, i tillegg til ledere for store teknologiselskaper, frykter at den raske utviklingen kan føre til katastrofe og at vi mister kontrollen over teknologien. Blant annet har en ansatt i selskapet Anthropic sagt opp jobben med en påstand om at KI kan utrydde menneskeheten innen få år, og Anthropic-sjef Dario Amodei har bedt om strengere regulering og lavere tempo. Elon Musk og OpenAI-sjef Sam Altman har kommet med lignende advarsler, og temaet skal snart diskuteres i FNs hovedforsamling.

Uavhengige eksperter deler bekymringen. KI-forsker og professor Yoshua Bengio, som regnes som en av feltets gudfedre, advarer om at framtidige KI-modeller kan hacke selskaper globalt, og han sammenligner kontrollen over KI med kjernefysiske våpen. Nobelprisvinner Geoffrey Hinton anslår at det er mer enn ti prosent risiko for at KI tar livet av alle mennesker på jorden innen 2040, og ser for seg scenarioer som massive dataangrep eller nye virus. Også forsker Stuart J. Russell og avdøde Stephen Hawking har reist bekymringer om menneskers evne til å kontrollere teknologien.

Samtidig er det uenighet om trusselbildet. Noen kritikere, deriblant Frankrikes finansminister Roland Lescure, mener de amerikanske tek-gigantene ber om regulering for å sakke konkurrentene og beholde sin egen markedsledende posisjon. Professor Emily M. Bender kaller katastrofescenarioene for grunnløse påstander og anklager selskapene for å bruke dommedagsprofetier som markedsføring og for å avlede oppmerksomheten fra virkelige problemer som teknologien allerede skaper.