Problemet är att befintliga sätt att fördela ansvar är byggda för en annan typ av system. Men AI spelar inte riktigt efter de reglerna. Och det är först när lösningen möter verkligheten, i den löpande förvaltningen, som de här frågorna blir konkreta på riktigt. Så frågan är: Hur ser ett hållbart ansvar ut i en värld där systemen inte bara gör som vi säger, utan också tolkar, väger och väljer? Jag tror att nyckeln till en långsiktig hantering av de här utmaningarna ligger i förvaltningen.
När besluten flyttar, men ansvaret står kvar
I traditionella system är ansvarsfördelningen relativt tydlig. Systemet gör det vi byggt, och om något blir fel går det oftast att härleda till krav, kod eller konfiguration.
Med AI förändras spelplanen.
Beslut flyttas från deterministisk logik till modeller som arbetar sannolikhetsbaserat. Det innebär att utfallet inte alltid är förutsägbart, men ofta tillräckligt bra för att användas i skarpa lägen. Och just där uppstår friktionen. När beslut inte längre är hårdkodade utan framväxta ur data och modellbeteende blir det svårare att peka på en tydlig ansvarsbärare. Är det den som definierade datan, den som utvecklade modellen eller den som valde att använda den i verksamheten?
Samtidigt finns en annan dimension som inte ska underskattas: Leverantörer som ansvarar för AI-modellerna kan upplevas få en mer inflytelserik roll än vad de faktiskt spelar i organisationen. Men när ansvaret fortfarande vilar hos organisationen så blir den upplevelsen i sig en risk. Frågan om vem som ska förvalta AI-modellerna är alltså inte bara en teknisk fråga.
Det här är därför inte bara en teknisk fråga. Det handlar om hur beslut fattas i verksamheten, och hur ansvar fördelas när beslutslogiken inte längre är fullt ut transparent.
Olika vägar framåt, men inga enkla svar
Det är frestande att försöka hitta en tydlig modell för hur ansvar ska fördelas i AI-drivna lösningar. Men i praktiken ser vi att organisationer testar sig fram, och att varje väg kommer med sina egna utmaningar.
I vissa fall försöker man hålla fast vid ett traditionellt synsätt där AI ses som ett beslutsstöd, och där människan formellt alltid fattar det slutliga beslutet. Det skapar en känsla av kontroll, men riskerar att bli en konstruktion på papperet. När tilliten till modellen väl är etablerad tenderar besluten ändå att i praktiken flyttas, utan att ansvarsfördelningen riktigt hänger med.
I andra sammanhang går man längre och låter systemen ta ett större operativt ansvar. Det kan vara effektivt, men flyttar samtidigt komplexiteten till uppföljning och styrning. När något avviker är det sällan en tydlig bugg, utan snarare ett beteende som inte blev som förväntat. Och då räcker det inte med traditionella mekanismer för att hantera felet.
Gemensamt för dessa angreppssätt är att de försöker lösa en fråga som i grunden inte är statisk. Ansvar i AI-drivna lösningar är inte något som kan definieras en gång, det behöver hanteras löpande.
Det är här förvaltningssammanhanget blir intressant. Inte som ett färdigt svar, utan som den plats där frågorna faktiskt kan hanteras i praktiken. Där beslut följs upp, där avvikelser diskuteras och där justeringar görs över tid.
Samtidigt ställer det nya krav, inte minst på beställarsidan. När beslut flyttar från individ till modell minskar behovet av viss detaljkunskap, men kraven på teknisk förståelse ökar. Att kunna resonera kring hur en modell fungerar, hur den drar sina slutsatser och var dess begränsningar ligger blir en förutsättning för att kunna ta ansvar på riktigt.
Ansvaret för AI bör inte hanteras som en engångsfråga vid utveckling eller införande. Även en modell som fungerar väl initialt kan över tid börja ge andra svar, förstärka oönskade beteenden eller användas i nya sammanhang än de ursprungligen var tänkta för. Därför behöver ansvar ses som något kontinuerligt, inte något som kan “signeras av” i ett projekt och sedan lämnas.
I praktiken flyttas därför en stor del av ansvaret till förvaltningen. Det är där organisationen löpande behöver säkerställa att AI-systemet fortfarande beter sig enligt verksamhetens mål, regelverk och etiska principer.
Det handlar bland annat om att:
- Följa upp hur AI:n faktiskt används i vardagen
- Identifiera avvikelser, felaktiga rekommendationer eller förändrade beteenden
- Skapa forum där verksamhet, teknik och juridik gemensamt kan bedöma risker och konsekvenser
- Justera instruktioner, träningsdata, regler eller användningsområden när beteendet inte längre är önskvärt
- Tydliggöra vem som har mandat att stoppa, begränsa eller förändra systemet vid behov
Förvaltning blir därmed inte bara teknisk drift, utan en aktiv styrfunktion för AI-beteende över tid. Ansvar uppstår inte enbart i designen av AI:n, utan i organisationens förmåga att kontinuerligt övervaka, utvärdera och korrigera dess påverkan.
Vår rekommendation: gör ansvar till en levande del av förvaltningen
Jag tror inte att det finns en enkel modell där ansvaret kan placeras tydligt hos en part. Den typen av uppdelning hör till en mer förutsägbar systemvärld än den vi nu rör oss mot. Istället ser vi att organisationer behöver börja behandla ansvar som något dynamiskt, något som formas och omformas i takt med att lösningen används och utvecklas.
Det innebär i praktiken att förvaltningen får en mer central roll än tidigare. Inte bara som en funktion för drift och vidareutveckling, utan som en arena där beslut, beteenden och utfall kontinuerligt följs upp och justeras.
För mig som konsult och leverantör innebär det en tydlig förflyttning. Vi verkar i ett gränsland där teknik och verksamhet möts, och blir en del av kundens långsiktiga arbete med AI snarare än enbart en leverantör av lösningar. Det ställer krav åt båda håll. Vi behöver förstå kundens verksamhet på djupet för att kunna sätta tekniken i rätt kontext. Samtidigt behöver kunderna utveckla sin förståelse för hur tekniken fungerar, för att kunna fatta informerade beslut och ta ett aktivt ansvar.
Det är i det samspelet som ansvar faktiskt blir hanterbart.
Sammanfattningsvis // TLDR
AI gör att beslut inte längre är lika tydligt kopplade till vare sig kod eller individ. Det skapar en otydlighet i ansvar som inte går att lösa en gång för alla.
Istället behöver ansvar hanteras löpande, och det sker naturligt i förvaltningen, där beteenden följs upp, diskuteras och justeras över tid.
Vill du börja ta ett mer aktivt grepp om de här frågorna i din organisation, det är precis den typen av dialog vi på Forefront Act gärna är med och driver.
