AI: Utility or Doomsday Prophecy?

Diskusjoner om risikoen knyttet til kunstig intelligens spenner bredt fra dystopiske spådommer om menneskehetens utslettelse til konkrete hendelser som bedriftshakking. For å unngå misforståelser i debatten er det avgjørende å være presis på hvilke konkrete scenarioer og forutsetninger som vurderes, da disse er svært forskjellige av natur.

Allerede i dag bruker både kriminelle og statstilknyttede aktører kunstig intelligens for å effektivisere cyberangrep. Mindre erfaren, økonomisk motivert kriminalitet drar størst nytte av teknologien, ettersom den lar dem ta i bruk mer avanserte teknikker raskere. Samtidig viser det seg at avanserte trusselaktører ikke nødvendigvis utfører betydelig mer sofistikerte operasjoner med kunstig intelligens, og at teknologien også kan skape støy som gjør at angrep oppdages. For virksomheter med god IT-sikkerhet er sannsynligheten for å bli kompromittert derfor ikke vesentlig høyere, og de grunnleggende sikkerhetstiltakene gjelder som før.

Det såkalte dommedagsscenarioet, hvor selvlærende og selvforbedrende kunstig intelligens til slutt kvitter seg med menneskeheten, har langt høyere usikkerhet og enorme konsekvenser. Siden det mangler historiske data, er sannsynligheten svært krevende å vurdere, og det krever at en rekke forutsetninger inntreffer, som at systemene kobles til fysisk skadelig teknologi som mennesker ikke klarer å stoppe. Likevel er det klokt å innta en føre var-tilnærming for å møte mulige selvlærende systemer, parallelt med at man håndterer den mer sannsynlige risikoen for at kriminelle bruker kunstig intelligens til hacking.