Även om sketchen ”The computer says no!" från ”Little Britain” är skruvad sätter den fingret på hur viktigt det är att vi inte bara går på vad som ”står i datan”, utan tänker själva och funderar över rimligt det är att ett litet barn ska göra en höftledsoperation.

Vi har stora förväntningar på att digitaliseringen ska förbättra våra liv på många olika sätt. I stället för att fylla i en fysisk blankett och skicka in så kan du när du ansöker om körkortstillstånd eller om tillfällig föräldrapenning göra det via myndigheternas webbsidor och använda så kallade e-tjänster.

För det mesta går det smidigt och man får snabbt ett besked om man har fått körkortstillståndet eller om föräldrapenningen är beviljad eller inte. Det här beror bland annat på att många myndighetsbeslut som rör medborgare idag är helt eller delvis automatiserade. Det är med andra ord en dator, som baserat på ett antal förprogrammerade regler, fattar beslut om du har rätt att få körkortstillstånd eller föräldrapenning. Ibland fattar datorn beslutet helt automatiskt. Men ibland kan en handläggare fatta beslutet, men efter att datorn har gett ett förslag.

Fördelen med automatiserade beslut för dig är att du får besked snabbare - och att alla ärenden som är automatiska hanteras lika. Men det är svårare att få insyn i automatiserade beslut och det kan bli krångligt om just ditt ärende inte passar in i mallen. Automatisering bygger på en standardisering där alla kan behandlas på samma sätt. Om just ditt ärende av någon anledning faller utanför mallen måste det hanteras av en handläggare – och det tar längre tid.

Men det här med automatiska beslut är egentligen inget nytt. Transportstyrelsen var tidigt ute och började redan på 1970-talet automatisera delar av sin verksamhet. Idag har det blivit väldigt mycket vanligare. En granskning av Riksrevisionen år 2020 visar att det fattades 121 miljoner automatiserade beslut av de 13 myndigheter som ingick i en granskning under år 2019.

Jag tror att den här utvecklingen fortsätter och att allt fler myndighetsbeslut som rör enskilda blir mer eller mindre automatiserade. Vi kommer att se alltmer samarbete mellan människa och dator där vi använder information från datorer för att hjälpa oss att fatta beslut. Det gäller inte bara myndighetsbeslut, utan blir ju också allt vanligare i andra delar av vardagen. Ett exempel är användning av ChatGpt, en chatrobot som kan svara på frågor du ställer eller ger förslag på texter. Men roboten tänker inte själv, utan ger förslag utifrån att analysera ett stort material och ger vad som verkar vara ett sannolikt svar. Det innebär att chattroboten kan ha fel. Så du måste alltid ta ansvar för dina egna beslut. En dator kan ju inte vara ansvarig.

För mig väcktes intresset för automatiska beslut när jag satt och småpratade med en bekant om just föräldrapenningen. Hon hade precis skickat in en ansökan till Försäkringskassan och sa till mig att ”det är så synd om alla handläggare som sitter där och fattar så många beslut varje dag”. Jag insåg då att hon inte förstod att det var en dator. Hon trodde det var människor som satt och fattade alla dessa beslut varje dag.

Vår forskning visar att min bekant inte är ensam. Enbart 20 procent av svenska medborgare känner till att det fattas automatiska beslut i offentlig sektor. Att det är så få som känner till det tycker jag är ett problem. Människor som känner till hur det fungerar är mer positiva. Dessutom är deras uppfattning är att det blir mer opartiska beslut. Kanske är man då mindre orolig för att det ska bli fel? Samtidigt är de flesta överens om att beslut av datorer kan innebära att myndigheter tar mindre hänsyn till individens situation och att insynen i besluten minskar.

Den här utvecklingen förändrar hur vi pratar med myndigheter. I stället för att möta en handläggare som kan förklara så både ansöker du och får ett besked elektroniskt. Jag ställer mig ofta frågan hur detta påverkar vår syn på samhället och oss som medborgare. Alla kanske inte känner sig hemma i det digitala samhället. Men myndigheter och tillgång till offentliga tjänster måste finnas för alla. För de ärenden som kräver ett mänskligt bemötande kan det kännas krångligt att sitta länge i telefonkö. Vi behöver kunna kontakta myndigheter på olika sätt beroende på vilka vi är och vilka behov vi har.

Genom att använda tekniken som ett hjälpmedel där vi tar oss tid och ork att kritiskt granska texter från en chattrobot och tänka själva när vi får ett förslag på beslut eller svar från en dator så slipper vi hamna i ”The computer says no!”.