AI-fel är oundvikliga – och it-chefen får skulden

It-chefer inom organisationer får oftast ta skulden när AI-agenter begår misstag, trots att de varken har valt leverantör eller har full insyn i verktygens agerande. En undersökning visar att 52 procent av it-cheferna uppger att cio:er hålls ansvariga för agenternas fel, medan endast 6 procent anser att juridiska eller regelefterlevande chefer tar på sig ansvaret. Denna situation är ett resultat av den snabba och okontrollerade AI-införseln under de senaste åren, där verktyg ibland har godkänts av styrelser, andra affärsenheter eller införts som skugg-it av medarbetarna själva.

Eftersom it-cheferna står som sista försvarslinje för AI har de blivit tvingade att axla ett ansvar utan tillhörande befogenheter eller revisionsspår. Även om inga it-chefer ännu har mist sina jobb på grund av AI-misstag pekar prognoser från IDC på att upp till 200 stora företag kan drabbas av stämningar, böter eller uppsägningar av it-chefer de kommande fyra åren på grund av bristande kontroll. Eftersom AI-agenter agerar i en hastighet som mänsklig övervakning inte hinner med, skapas en ny typ av ansvarslucka där maskinerna själva varken kan ta ansvar eller ställas inför konsekvenser för skador de orsakar.

Experter anser att den nuvarande modellen med att ensidigt beskylla it-chefen inte är hållbar och att ansvaret för AI-styrning måste delas av hela organisationen. It-cheferna rekommenderas att driva på för bättre kontroller men samtidigt öppet ifrågasätta situationer där deras ansvar överstiger deras faktiska kontroll över tekniken. Dessutom pekar experter på ett behov av att införa automatiserade styrningsverktyg för att få överblick över vilka agenter som är aktiva och vad de har tillgång till.