Digitalisering – risk eller möjlighet?
Generaldirektören ställde frågor om digitalisering.
Etiska rådets möte: 2022-06-08
Dnr: 1.3.4-2022-12671
Generaldirektörens fråga
Bakgrund
Inom Migrationsverket pågår en digital transformation. Bakgrunden är en alltmer osäker samtid som direkt påverkat Migrationsverket genom bland annat snabbt uppblossade konflikter i omvärlden, en alltmer komplex lagstiftning och förändrade förväntningar och krav på myndigheten från omvärlden. Denna komplexa och snabbrörliga värld kräver nya förhållningssätt och arbetssätt.
Till skillnad från digitalisering av myndigheten handlar en digital transformation om att de digitala möjligheterna ska styra arbetssätt och att så mycket som möjligt i processen ska göras av maskiner och det mänskliga instrumentet ska komma in i processen när detta behövs, tex. för kontroller av beslut. Syftet är att både de sökande och medarbetare på verket ska gynnas av transformationen genom snabbare beslut och ökad rättssäkerhet.
Problemställning
Samtidigt som ”alla” är överens om att digitaliseringen kommer öka och att vi bör ta vara på teknikens alla möjligheter innebär det en förändring i det dagliga arbetssättet för våra medarbetare. När det blir konkret att arbetsuppgifter försvinner eller förändras uppstår lätt diskussioner kring riskerna med att släppa den mänskliga kontrollen till maskinerna. Det finns risk för att det uppstår oro såväl bland personal som externa intressenter.
Migrationsverket önskar Etiska rådets vägledning om vilka grundläggande etiska avvägningar som kan behöva göras med utgångspunkt i den osäkerhet som den digitala transformationen skapar.
Men vilken risk är det vi talar om? Ökad eller minskad kvalitet/rättssäkerhet? Mänsklig interaktion ersätts av en algoritm – vilka risker ser vi här? Vilka är riskerna om vi inte vågar digitalisera?
Etiska rådets svar
Migrationsverket står inför ett pågående digitalt omställningsarbete och denna transformation reser en rad frågor som kräver sina ställningstaganden. Vad som kommer till uttryck i frågan till etiska rådet är en önskan om ett förändrat arbetssätt där beslutsprocesser går från att i huvudsak drivas av individer till att i högre grad automatiseras. Handläggaren förväntas snarare övervaka processen och kliva in vid kritiska moment. Den målsättning som anges för arbetet är ökad effektivitet och rättssäkra processer. Det etiska rådet är av uppfattningen att ambitionen är motiverad samtidigt som arbetet och genomförandet behöver följas noggrant. Dessutom är verkets digitala transformation en del av en förändring av hela samhället, vilket gör den etiska reflektionen än mer angelägen.
Det konkreta exempel som anförts berör en algoritm som utvecklas för att föreslå beslut om anvisning till kommuner för personer som beviljas skydd enligt EU:s massflyktsdirektiv. Algoritmen har konstruerats med utgångspunkt i lagtexten med målsättningen att åstadkomma en jämn fördelning över landets kommuner. En prioriteringsordning med specifika kriterier har byggts in och processen följer enligt uppgift en deterministisk heuristik. Med detta menas att en given mängd information till systemet alltid kommer att resultera i samma utfall. Detta bör också betyda att ett beslut fattat med utgångspunkt i algoritmens förslag går att härleda och därmed motivera vilket är i linje med att vara en del av en rättssäker myndighetsutövning.
Det bör dock påpekas att den nya beslutsprocessen konstrueras med utgångspunkt ett systemperspektiv där hänsyn till individen begränsas till ett fåtal möjliga kriterier. Det innebär samtidigt att individen – betraktad från systemets perspektiv – riskerar att kraftigt förenklas och möjligen osynliggöras i centrala avseenden. Här kommer den mänskliga handläggningen och det handlingsutrymme som ges att gå emot förslag till beslut att vara en viktig arena för att hantera konflikten mellan systemets överordnade krav och individens specifika behov. När, hur ofta, och varför sådana avsteg görs bör ses som en central punkt för myndighetens uppföljning och utvärdering av den nya handläggningsprocessen.
När allt färre moment hanteras av en mänsklig handläggare finns det en risk att expertmyndighetens svåra uppgift att tolka lagen för bäst tillämpning av denna uppfattas som mindre central till förmån för en enklare framställning av uppgiften med fokus på ordagrann tillämpning av utvalda delar av någon viss lagtext, vilket i förlängningen kan leda en felaktig tillämpning av lagen samt till en oönskad avprofessionalisering av arbetet. Rådet konstaterar också på ett mer generellt plan att lagstiftningen är komplex och att föreställningen att denna med automatik leder till ett visst utfall är starkt förenklad. Det är vidare angeläget att myndighetens handläggning av ärenden tar hänsyn till icke-digitaliserade användares behov.
Sett på något längre sikt vill rådet också uttrycka en oro för att den kompetens som dagens handläggare besitter kan komma att utarmas. Den tid som idag läggs på manuell administration kommer att tas över genom automatisering och mera tid frigörs därmed till att hantera frågor av högre komplexitet. Detta är sannolikt en av vinsterna med den digitala omställningen. Det kan dock vara så att den erfarenhet som krävs för bearbetning av svårare frågor delvis härrör från arbetet med rutinärenden. På kortare sikt ser vi inga större problem med att öka komplexiteten i arbetsuppgifterna. Men frågan som bör beaktas är på vilket sätt nästa generation handläggare ska utbildas för att kunna lösa arbetsuppgifter på en hög komplexitetsnivå. Det är angeläget att myndigheten etablerar former för erfarenhetsutbyte och institutionellt minne för att garantera att kompetensen såväl fortlever som utvecklas.