AI i domstolen: När algoritmer reglerar fängelsetid

97% Owned - Economic Truth documentary - How is Money Created (Juli 2019).

Anonim

Den århundraden gamla processen att släppa svaranden på borgen, länge provinsen rättsligt utrymme, får en stor hjälp … med artificiell intelligens.

I slutet av augusti gick Hercules Shepherd Jr upp till stativet i ett Cleveland rättssal, klädd i en orange jumpsuit. Två nätter tidigare hade en officer arresterat honom vid ett trafikstopp med en liten kasse med kokain, och han skulle bli arraigned.

Domare Jimmy Jackson Jr tittade på Shepherd, sedan ner på en datorgenererad poäng på framsidan av den 18-årige s fallfilen. Två av sex för sannolikhet att begå ett annat brott. En av sex för sannolikhet att hoppa över domstol. Poängen markerade Shepherd som en främsta kandidat för förhandsutgivande med låg säkerhet.

"Vi ber domstolen att ta allt detta i beaktande, " sade Shepherds offentliga försvarare, David Magee.

För länge sedan skulle Jackson ha bestämt Shepherds närmaste framtid baserat på en läsning av domstolsfiler och sin egen intuition. Men i Cleveland och ett växande antal andra lokala och statliga domstolar styrs domare nu av datoralgoritmer innan dom bestämmer om brottsliga svarande kan återvända till vardagen eller förbli låst i väntan på rättegång.

Experter säger att användningen av dessa riskbedömningar kan vara den största förskjutningen i rättssystemets beslutsfattande, sedan amerikanska domare började acceptera samhällsvetenskap och andra sakkunniga bevis för mer än ett sekel sedan. Christopher Griffin, en forskningsdirektör vid Harvard Law School's Access to Justice Lab, kallar de nya digitala verktygen "nästa steg i den revolutionen".

Kritiker oroar sig emellertid för att sådana algoritmer kan sluta att ersätta domarnas egen bedömning, och eventuellt även fortsätta fördomar i en sannolikt neutral form.

AI får mycket uppmärksamhet åt de jobb det utrotar. Det händer inte med domare, åtminstone inte än. Men som i många andra tjänstemän som kräver avancerade grader eller annan specialutbildning, omformar AI om inte några av domarnas mest grundläggande uppgifter - många av dem kan fortfarande få enorma följder för de berörda.

Kontantskyddet, som är utformat för att säkerställa att personer som är skyldiga för brott uppträder för rättegång, har varit en del av det amerikanska domstolssystemet sedan starten. Men tvinga åtal till ponny upp stora summor har drabbat eld de senaste åren för att hålla fattigare svarandena i fängelse samtidigt som de rikare frigörs. Studier har också visat att den breddar rasskillnaderna i förebyggande av prövningar.

En tvåpartsborgen reform rörelse som letar efter alternativ till kontanter borgen har funnit det i statistik och datavetenskap: AI-algoritmer som kan scour genom stora uppsättningar av domstolsuppgifter för att söka efter föreningar och förutsäga hur enskilda svaranden kan uppträda.

Stater som Arizona, Kentucky och Alaska har antagit dessa verktyg, som syftar till att identifiera personer som är mest sannolikt att flyga eller begå ett annat brott. Svarande som får låga poäng rekommenderas för frisläppande under domstolsövervakning.

För ett år sedan tog New Jersey ett ännu större steg i algoritmiska bedömningar genom att översyna hela dess rättssystem för förhandlingar. Statens domare är nu beroende av vad som kallas Public Safety Assessment, som utvecklats av Houston-baserade Laura och John Arnold Foundation.

Det verktyget är en del av ett större paket med borgen reformer som trädde i kraft i januari 2017, effektivt uttömning av borgarobligationsindustrin, tömning av många fängelseceller och modernisering av datorsystemen som hanterar rättsfall. "Vi försöker gå papperslösa, helt automatiserade", säger domare Ernest Caposela, som hjälpte till att inleda förändringarna vid det upptagna Passaic County Courthouse i Paterson, New Jersey.

New Jerseys bedömningar börjar så snart en misstänkt är fingeravtryckt av polisen. Den informationen flyter till en helt ny kontorsavdelning, kallad "Pretrial Services", där kabinarbetare övervaka hur de tilltalade behandlas via det datoriserade systemet.

Den första utfrågningen händer snabbt, och från jailhouse-svarandena visas av videokonferens eftersom deras riskpoäng presenteras för domaren. Om de släpps får de textvarningar för att påminna dem om domstolsuppträdanden. Caposela jämför automatiseringen till "på samma sätt som du köper någonting från Amazon. När du är i systemet har de allt de behöver på dig."

Allt detta ger mer tid för domare att noggrant överväga utifrån den bästa informationen som finns tillgänglig, sade Caposela samtidigt som man håller människor ur fängelset när de inte är ett säkerhetshot.

Algoritmen syftar bland annat till att minska fördjupade avgöranden som kan påverkas av ett svarandes ras, kön eller kläder - eller kanske hur vred en domare kanske känner efter att ha missat frukost. De nio riskfaktorer som används för att utvärdera ett svarande inkluderar ålders- och tidigare kriminella domar. Men de utesluter ras, kön, anställningshistoria och där en person bor. De utesluter också en historia av arresteringar, som kan stapla upp mot människor som är mer benägna att stöta på polisen - även om de inte har befunnit sig ha gjort något fel.

Arnold-stiftelsen har svårt att skilja den offentliga säkerhetsbedömningen från andra ansträngningar för att automatisera rättsliga avgöranden, i synnerhet ett proprietärt kommersiellt system som heter Compas som har använts för att bestämma fängelsestraff för dömda brottslingar. En utredningsrapport från ProPublica fann att Compas felaktigt flaggade svarta tilltalade som troliga framtida brottslingar vid nästan dubbelt så mycket som vita svarande.

Andra experter har ifrågasatt dessa resultat och högsta domstolen i Förenta staterna förra året försvann att ta upp ett fall av en fängslade Wisconsin-man som hävdade att könsbenägenhet som en faktor i Compas-bedömningen kränkte hans rättigheter.

Arnold konstaterar att dess algoritm är okomplicerad och öppen för inspektion av någon, även om de underliggande uppgifterna den åberopar inte är. "Det finns inget mysterium om hur ett riskpoäng uppnås för en viss svarande", säger Matt Alsdorf, som ledde fondens riskbedömningsinsats fram till slutet av förra året.

Förespråkare för det nya tillvägagångssättet är snabba att notera att människorna i klädnader fortfarande är ansvariga.

"Det här är inte något där du sätter in en biljett, trycker på en knapp och den berättar vilken borgmakt att ge någon", säger domare Ronald Adrine, som förordar Cleveland Municipal Court. Istället säger han att den algoritmiska poängen bara är en av flera faktorer för domare att överväga.

Men andra experter oroar sig för att algoritmerna kommer att döma mer automatiska och rote över tiden - och att istället för att eliminera bias kan det fortsätta under masken av data-driven objektivitet. Forskning har visat att när folk får specifika rådgivande riktlinjer, tenderar de att följa dem i stället för sin egen bedömning, säger Bernard Harcourt, en lag och statsvetenskaplig professor i Columbia.

"Dessa former av expertis har en verklig gravitationskraft på beslutsfattare", sa han. "Det är naivt att tro att folk helt enkelt inte kommer att förlita sig på dem."

Och om det händer, domare som alla människor, kan det vara lätt att släppa sina kritiska tänkande färdigheter när de presenteras med det som verkar som ett enkelt svar, säger Kristian Hammond, en nordvästlig universitets datavetenskapare som har medverkat sitt eget AI-företag.

Lösningen är att "vägra att bygga lådor som ger dig svar", säger han. "Vilka domare behöver verkligen är" lådor som ger dig svar och förklaringar och frågar om det finns något du vill ändra. "

Före sin anhållning den 29 augusti hade Hercules Shepherd ingen kriminalregister.

Tränare var intresserade av att rekrytera stjärnskolans basketspelare för sina högskolagrupper. Rekrytering skulle innebära ett stort stipendium som skulle kunna hjälpa Shepherd att inse sina drömmar om att bli ingenjör. Men genom att sitta i fängelse saknade Shepherd två dagar av klasser. Om han missade två mer kunde han sparka ut ur skolan.

Domare Jackson tittade upp. "Går OK idag, herr Herde?" han frågade. Herde nickade.

"Om han sitter i fängelse i en annan månad och blir utvisad från skolan, har den större förgreningar, " sa Magee.

"Vederbörligen noterat. Herr Shepherd? Jag ger dig personlig anknytning, " sa Jackson. "Din möjlighet att vända det runt börjar just nu. Gör så, och du har hela världen rätt framför dig." (Jackson förlorade därefter ett val i november och är inte längre en domare, men hans vinnande motståndare stöder dock användningen av pretrialalgoritmen.)

Leende, Herde gick ut ur rättssalen. Den natten ledde han ut ur Cuyahoga County Fängelse; Nästa dag var han i klassen. Shepherd säger att han inte skulle ha kunnat få råd med borgen. Herdens mamma är i fängelse, och hans åldrande far är på social trygghet.

Hans offentliga försvarare sa att Shepherds låga poäng hjälpte honom. Om han inte arresteras igen inom ett år, kommer hans rekord att torkas ren.

-

Att döma efter algoritmen: Använda riskfaktorer för att göra poäng till svarande

I stället för att hålla kriminella tilltalade på kontantskyddet använder domstolar runt om i USA i allt större utsträckning algoritmiska riskbedömningsverktyg för att hjälpa domare att avgöra om ett svarande ska fängslas eller gå fri i avvaktan på rättegång.

En sådan modell som nu används av New Jersey och andra statliga och regionala domstolar är den offentliga säkerhetsbedömningen, utvecklad av Houston-baserade Laura och John Arnold Foundation.

Supporters av sådana bedömningar säger att de begränsar skadliga domar, medan kritiker säger att de kan vända sig till en rote-övning, en som kan fortsätta dolda företeelser inom straffrättssystemet.

Arnoldfondens modell använder dessa nio riskfaktorer för att utvärdera ett svarande, inklusive ålder och tidigare kriminella domar. (Det utesluter ras, kön, anställningshistoria och där en person bor.) Dessa är:

1. Ålder vid nuvarande brott

2. Nuvarande våldsbrott

3. Väntar på avgift vid tidpunkten för brottet

4. Förebyggande övertygelse

5. Förebyggande övertygelse

6. Tidigare våldsam övertygelse

7. Tidigare misslyckande att förekomma vid en domstolsförhandling under de senaste två åren

8. Tidigare misslyckande att förekomma äldre än två år

9. Första meningen till fängelse

menu
menu