Är algoritmer lösningen på domstolarnas resursproblem?

En professor i etik och rättsfilosofi föreslår tre sätt på vilka algoritmer teoretiskt skulle kunna användas för att spara resurser och tid i domstolarna. Ett sätt är att låta en algoritm helt ersätta domaren i en del av domarens arbete. Men det återstår fortfarande mycket forskning och teoretisk diskussion om huruvida detta är genomförbart i praktiken.

Domstolarna är överbelastade. Det beror både på att coronapandemin har skapat en ansamling av ärenden, men också för att det är svårt att rekrytera nya domare. Frågan är om de framväxande algoritmerna kan vara svaret på de utmaningar som domstolarna för närvarande står inför. Jesper Ryberg är professor i etik och rättsfilosofi vid Roskilde universitet och har nyligen gett ut boken "Sentencing and Artificial Intelligence". I den här artikeln försöker han svara på frågan om algoritmerna är domstolarnas frälsare.

Jesper Ryberg börjar med att konstatera att de danska domstolarna ännu inte alls arbetar med artificiell intelligens. De använder datorer, men algoritmer eller program som på något sätt stödjer eller ger resultat i förhållande till hur brottslingar ska straffas används inte.

- Man har börjat göra det på vissa ställen utomlands, och det är därför man kan tänka sig att det så småningom kan komma till Danmark, förklarar Jesper Ryberg.

I USA och Asien hjälper algoritmer till
Jesper Ryberg pekar på tre specifika sätt på vilka algoritmer kan användas i domstolarna. Ett av sätten används redan av majoriteten av de amerikanska delstaterna. Det är riskbedömningar av brottslingar via algoritmer, förklarar Jesper Ryberg.

Det innebär att algoritmer hjälper domaren att bedöma hur stor risken är för att en brottsling till exempel ska återfalla i brott igen, och detta används bland annat för att bedöma om personen ska vara häktad tills han eller hon får sitt slutliga straff eller om han eller hon ska vara berättigad till villkorlig frigivning.
- Det är ett sätt att använda algoritmer, dvs. som ett hjälpmedel för att få fram vissa typer av information som man behöver som domare, och som man normalt får hjälp av en läkare att få fram, säger Jesper Ryberg.

Det andra sättet på vilket en algoritm kan hjälpa domare kan man se i Asien. Där finns det algoritmer som hjälper till att rekommendera vilket straff en brottsling ska få.
- Algoritmen säger till exempel att det här brottet ger ett fängelsestraff på två år. Och sedan kan domaren använda algoritmens rekommendationer för att fastställa det slutgiltiga straffet. Detta har testats i Malaysia, säger han.

På frågan om algoritmer kan bidra till att spara resurser i både de amerikanska och asiatiska exemplen är svaret, enligt Jesper Ryberg, i teorin ja.

Om en algoritm snabbt kan sammanställa information och göra en riskbedömning, som normalt skulle kräva att en läkare involveras och intervjuas, finns det uppenbarligen tid att spara.

- På samma sätt finns det resurser att spara om man tänker sig att man snabbt kan få rekommendationer om vad som är det korrekta straffet, men om det fungerar i praktiken är en mycket mer komplicerad fråga, säger Jesper Rydberg.

”Algoritmen den skulle bara ersätta domaren i den del av arbetet som handlar om straffmätning”

Enligt Jesper Ryberg är det viktigt att komma ihåg att en algoritm inte kan uppfinna något på egen hand. Den måste matas med data och information och baserat på det kan den sedan fatta ett beslut.

Sedan tillkommer de praktiska frågorna om vem som ska mata in informationen och hur det ska gå till.

- Hur tidskrävande det blir, om man har ett komplicerat fall, att få in alla aspekter på rätt sätt, det vet vi inte så mycket om ännu, och det är en sak som är viktig om man pratar om resursbesparingar. Så hur mycket du kommer att vinna idag i form av tid och resurser, det finns inget tydligt svar på det när det gäller den mer omfattande användningen av algoritmer för att döma eller vägleda domare.

Det tredje sättet som en algoritm kan vara till hjälp i domstolen, enligt Jesper Ryberg, är genom att låta den helt ersätta domaren i en del av domarens arbete. Nämligen den del av arbetet som handlar om straffmätning. Det gör man inte idag, inte ens utomlands. Men man skulle bara ersätta domaren i den del av arbetet som handlar om straffmätning, säger Jesper Ryberg och förklarar att kompensation i princip kan fungera i alla typer av fall. För när det gäller att avgöra vilket straff en viss brottsling ska få måste algoritmen arbeta med siffror, information om vad lagen säger, information om förmildrande eller försvårande omständigheter och information om prejudikat på området.

- Det är inte otänkbart att man skulle kunna ha algoritmer för att bestämma påföljder, säger han.

Behov av mer forskning
Om man frågar Jesper Ryberg om Danmark borde ligga längre fram när det gäller artificiell intelligens är svaret nej. Även om det finns många möjligheter som kan tjäna som inspiration.

Enligt Jesper Ryberg finns det fortfarande mycket forskning och teoretiska diskussioner kvar att göra innan ett klargörande kan nås.

- Det är inte bara något där man säger 'oops' och sedan tar tag i det och introducerar det nästa dag i de danska domstolarna.

Två av de saker han pekar på som viktiga att ha i åtanke i diskussionen om artificiell intelligens i domstolarna är transparens och objektivitet. Som ett exempel på varför transparens är viktigt berättar han om en man i USA som dömdes till sex års fängelse, delvis baserat på en riskbedömning gjord av en algoritm som sa att det fanns en hög risk för att han skulle återfalla i brott. Den amerikanske mannen ville veta varför han bedömdes ha hög risk. Men han kunde inte få reda på det eftersom algoritmen hade utvecklats av ett privat företag och hur den fungerade var en affärshemlighet.
Så han sitter där och har fått höra att han är farlig, och ingen kan svara på hur man kom fram till den slutsatsen. Det lever inte upp till vanlig rättssäkerhet", säger Jesper Ryberg och tillägger, det räcker inte med att ha en algoritm som kan ge vissa svar, du behöver också en förklaring till varför dessa svar ges.

En annan viktig faktor när man överväger om algoritmen ska ta över delar av domarens jobb är om en given algoritm kommer att vara mer objektiv än en mänsklig domare.

Domare anklagas ofta för att vara partiska, och förhoppningen är att en algoritm kan vara bättre. Eftersom en algoritm inte tar med irrelevanta faktorer i bedömningen. Det kan till exempel vara en persons hudfärg, säger han och utvecklar att problemet är att vissa algoritmer också kan vara partiska. För vi vet från forskning idag att om man skapar en algoritm och lägger till alla tidigare fall som algoritmen ska bedöma utifrån, och de tidigare fallen har varit diskriminerande på olika sätt, så fångas det upp i algoritmen och reproduceras.

- Det innebär att det inte är så enkelt att skapa en objektiv algoritm, utan det krävs forskning och studier av när en algoritm är diskriminerande och när den inte är det, säger han och tillägger att det saknas forskning idag.

Men vad är värre? De långa väntetiderna på grund av trängsel eller snabbare handläggning med hjälp av algoritmer på bekostnad av transparens och objektivitet. På det svarar Jesper Ryberg:

- Ja, det är en bra fråga. Det krävs att man tar med lite fler alternativ i sina överväganden, för en sak är att det är olyckligt med den här långa handläggningstiden, för det är också ett hot mot rättssäkerheten att det kan ta lång tid innan man får sitt ärende behandlat, och samtidigt kan det också finnas många andra nackdelar. Men om man i stället inför algoritmer måste man först ta reda på hur mycket det kostar att göra det. Med andra ord, hur stor är risken att algoritmerna är diskriminerande, och hur stora är kostnaderna för att inte kunna få en fullständig förklaring till hur en viss algoritm kom fram till ett visst svar. Undergräver dessa kostnader rättsstatsprincipen, eller får de människor att känna sig osäkra?
- Och när det gäller handläggningstiden måste man också ställa sig frågan: finns det andra sätt att minska handläggningstiden? Med andra ord, finns det andra verktyg? Till exempel genom att lägga mer pengar på ärendena eller anställa fler personer.
- Därför är det inte lätt att säga ja, om vi kan minska handläggningstiden med en månad så kan vi kompromissa lite genom att inte kunna förklara så mycket för folk, eller genom att använda ett halvdiskriminerande verktyg. Jag tror inte att många skulle säga ja till det, avslutar Jesper Rydberg.

Ursprunglig artikel skriven av Cecilie Uhre Jørgensen, K-News.
https://www.karnovgroup.dk/the-ai-leap-blog/er-algoritmer-loesningen-p%C3%A5-domstolenes-ressourceproblemer

Översatt till svenska av Caroline Wiroth, Norstedts Jurdik.