Amazons ansigtsgenkendelsesteknologi 'Supercharges' lokalt politi

Del denne historie!
image_pdfimage_print
Amazons siger, at dets Rekognition AI-system "ikke kan skelnes fra magi", men det tilbyder det nu til nominelle gebyrer til retshåndhævelse på alle niveauer, fra lokalt bypoliti og lensmannskontorer til FBI. Der er i øjeblikket ingen nationale love, der regulerer brugen af ​​ansigtsgenkendelse. ⁃ TN Editor

Da arbejdere på et Ace Hardware her rapporterede, at en kvinde var gået ud af butikken med en $ 11.99 tank svejsegas, som hun ikke havde betalt for i sin totesæk, sprang en udførlig højteknologisk kriminalitetsbekæmpelsesaktion i aktion.

En lensmandsdetektiv i Washington County arbejdede sammen med agenturets Special Investigations Unit og ledte butikens overvågningsoptagelser gennem et internt ansigtsgenkendelsesprogram bygget af Amazon og afslørede en mulig match.

Kvindens nummerplade blev markeret, og tre måneder senere så en narkotikamand i en umærket SUV det og sendte radio til andre patruljedeputer til at stoppe hende. En stedfortræder klappede et par håndjern omkring hendes håndled, og ifølge anholdelsesrapporten. Hun sagde, at hun havde brug for bensinen for at ordne sin bil.

Deputerede i dette hjørne af det vestlige Oregon uden for ultraliberal Portland plejede at spore kriminelle på den gammeldags måde og faxede fangede på kamera-billeder af en mistænkt omkring kontoret i håb om, at nogen kunne genkende ansigtet.

I slutningen af ​​2017 blev Sheriffkontoret i Washington County det første retshåndhævende organ i landet, der vides at bruge Amazons kunstige intelligensværktøj Rekognition og omdanne denne krat af skove og forstæder til en offentlig testplads for en ny bølge af eksperimentel politiovervågning teknikker.

Næsten natten over så deputerede deres efterforskningsbeføjelser overladet, så de kunne scanne efter kampe i en mistænkt ansigt på tværs af mere end 300,000 krusskud taget i amtsfængslet siden 2001. Et kornet billede af andres ansigt - fanget af et sikkerhedskamera, et socialt medie konto eller en stedfortræders smartphone - kan hurtigt blive et link til deres identitet, herunder deres navn, familie og adresse. Mere end 1,000 ansigtsgenkendelsessøgninger blev logget sidste år, sagde deputerede, der undertiden brugte resultaterne til at finde en mistænktes Facebook-side eller besøge deres hjem.

Men Washington County blev også nul for en kamp med høj indsats om den uregulerede vækst i politiarbejde ved hjælp af algoritme. Forsvarsadvokater, kunstig intelligensforskere og borgerrettighedseksperter hævder, at teknologien kan føre til uretmæssig anholdelse af uskyldige mennesker, der kun ligner et videobillede. Rekognitions nøjagtighed er også meget omstridt, og nogle eksperter er bange for, at en sag om fejlagtig identitet fra væbnede stedfortrædere kan have farlige konsekvenser, der truer privatlivets fred og folks liv.

Nogle politibureauer har i de senere år kørt ansigtsgenkendelsessøgninger mod statslige eller FBI-databaser ved hjælp af systemer bygget af entreprenører som Cognitec, IDEMIA og NEC. Men udrullingen af ​​Amazon har måske markeret det største skridt i at gøre den kontroversielle ansigtsscannings-teknologi mainstream. Rekognition er let at aktivere, kræver ingen større teknisk infrastruktur og tilbydes praktisk talt alle til priser for tønde-tønde. Washington County brugte ca. $ 700 for at uploade sin første store fotostræk, og nu betaler det for alle sine søgninger ca. $ 7 om måneden.

Det er dog umuligt at fortælle, hvor nøjagtig eller effektiv teknologien har været i de første 18 måneder af test i den virkelige verden. Deputerede behøver ikke at bemærke i arrestationsrapporter, når der blev anvendt en ansigtsgenkendelsessøgning, og det nøjagtige antal gange, det har resulteret i en anholdelse, er uklart. Sheriffens embedsmænd sagde, at softwaren har ført til snesevis af anholdelser for tyveri, vold eller andre forbrydelser, men en anmodning om offentlige registre viste ni sagsrapporter, hvor ansigtsgenkendelse blev nævnt.

"Ligesom enhver af vores efterforskningsteknikker fortæller vi ikke folk, hvordan vi fanger dem," sagde Robert Rookhuyzen, en detektiv på agenturets største forbrydelsesteam, der sagde, at han har kørt "flere dusin" søgninger og fandt det nyttigt omkring 75% af tiden. "Vi vil have, at de fortsætter med at gætte."

Sheriffens embedsmænd siger, at ansigtsscanning ikke altid markerer afslutningen på undersøgelsen: Deputerede skal stadig fastslå sandsynlig årsag eller finde beviser, før de anklager en mistænkt for en forbrydelse. Men Sheriff's Office sætter sine egne regler for ansigtsgenkendelsesbrug og tillader stedfortrædere at bruge værktøjet til at identificere lig, bevidstløse mistænkte og mennesker, der nægtede at give deres navn.

Søgeværktøjets ufuldkomne resultater øger risikoen for, at en uskyldig person bliver markeret og arresteret, især i tilfælde af at de scannede billeder er slørede, af lav kvalitet eller delvis skjult. Suppleanter har også lov til at køre kunstnerskitser gennem søgningen, en usædvanlig anvendelse, som AI-eksperter sagde oftere kunne føre til en falsk kamp.

Amazons retningslinjer for retshåndhævelse siger, at embedsmænd kun skal bruge Rekognitions resultater, når systemet er 99% selvsikker i en kamp. Men stedfortrædere her er ikke vist, at måling af søgetillid, når de bruger værktøjet. I stedet får de fem mulige matches for hver søgning, selvom systemets sikkerhed i et match er langt lavere.

Efter at have stillet spørgsmål fra The Washington Post tilføjede Amazon sprog til disse retningslinjer, idet de sagde, at officerer skulle gennemgå alle kampe manuelt, før de tilbageholdt en mistænkt, og at søgningen "ikke skulle bruges som den eneste afgørende faktor for at tage handling."

Forholdet mellem Amazon og Oregon tredje største retshåndhævende agentur er gensidigt fordelagtigt: Sheriff's Office hjælper med at forfine systemet, som Amazon håber at sælge over hele landet. Men Amazons skub i salg af retshåndhævelse har alarmeret nogle juridiske advokater, der siger, at systemet udgør for mange risici for borgernes frihedsrettigheder. (Amazon-grundlægger og administrerende direktør Jeff Bezos ejer The Post.)

”Regeringen er utrolig magtfuld, og de bringer meget at bære mod en individuel borger i en sag,” sagde Mary Bruington, direktøren for Washington County Public Defender's Office, der repræsenterer tiltalte, der ikke har råd til en advokat. ”Parrer du det med Amazon? Det er et stærkt partnerskab. ”

Matt Wood, general manager for kunstig intelligens for virksomhedens cloud-computing-division, Amazon Web Services, sagde i en erklæring, at Rekognition blot er "endnu et input blandt mange andre kundeemner til en 100 procent menneskelig drevet undersøgelse."

Alligevel står virksomheden over for kritik på mange fronter: Top AI-forskere, medlemmer af kongressen og borgerrettighedsgrupper - såvel som nogle af Amazons egne investorer og medarbejdere - har opfordret virksomheden til at stoppe med at levere teknologien til retshåndhævelse og peger på undersøgelser, der har fundet ud af, at systemet er mindre nøjagtigt med mørkhudede ansigter. Amazon har bestridt denne forskning.

Nogle af Amazons rivaler har afvist lignende kontrakter. Microsofts præsident Brad Smith sagde i april, at virksomheden for nylig havde nægtet at levere sin ansigtsgenkendelsessoftware til et Californisk retshåndhævende organ, der ønskede at køre en ansigtsscanning, når som helst dets officerer trak nogen over, men at det havde godkendt en aftale, der sætter teknologien. i et amerikansk fængsel. Microsoft nægtede at give oplysninger.

Amazon-investorer vil stemme i maj om et forslag bakket op af en gruppe aktivistaktionærer, der ville forhindre virksomheden i at sælge rekognition til regeringsorganer, medmindre selskabets bestyrelse beslutter, at det ikke udgør en risiko for menneskerettighederne.

Sheriffens kontor tillod Post-journalister at tilbringe to dage i marts i sine holdbiler, detektivkontorer og amtsfængsel og observere, hvordan stedfortrædere har foldet teknologien ind i deres daglige sagsbelastning. De fleste af de interviewede sagde, at softwaren havde sparet dem tid, øget deres arrestationsnummer og hjulpet dem med at behandle den voksende overflod af visuelle beviser. Indtil i dag er der ikke rejst nogen juridisk udfordring mod en anholdelse med den begrundelse, at fotokampen var forkert, sagde både stedfortrædere og offentlige forsvarere.

Men advokater i Oregon sagde, at teknologien ikke burde være, som mange ser det, et forestående skridt fremad for politiets fremtid, og de indrammer systemet ikke som en teknisk milepæl, men en moralsk: Er det OK at nabere flere onde, hvis flere gode fyre kan også arresteres?

”Folk elsker altid at sige, 'Hej, hvis det fanger dårlige mennesker, store, hvem er ligeglad med,'" sagde Joshua Crowther, en viceforsvarer i Oregon, "indtil de er i den anden ende."

'Skelnes ikke fra magi'

Da Amazon afslørede Rekognition i 2016, kaldte virksomheden det et gennembrud for en kraftig stil med dyblærende kunstig intelligens, der viste resultater "der ikke kan skelnes fra magi." I et blogindlæg illustreret med et foto af en leders hund tilbød virksomheden nogle generelle ideer til, hvordan folk kunne begynde at bruge det, herunder til sikkerhedskontrolpunkter eller reklametavler, der var kablet til at indsamle data fra en seers ansigt.

Afsløringen fangede øjet hos Chris Adzima, en tidligere eBay-programmør, der var ansat på Sheriff's Office i Washington County for at arbejde på en iPhone-app, som stedfortrædere bruger til at spore indsattes adfærd. Hans agentur havde hundreder af tusinder af ansigtsbilleder allerede online og ingen reel måde at analysere dem på. Ved hjælp af Amazons AI fik han et system i gang på mindre end tre uger.

”De havde ikke rigtig en fast idé om nogen form for brugssager i den virkelige verden, men de vidste, at de havde et kraftfuldt værktøj, som de oprettede,” sagde Adzima, en senior informationssystemanalytiker, der arbejder i en lille kabine på sheriffens hovedkvarter. "Så ved du, jeg er lige begyndt at bruge det."

Deputerede begyndte straks at folde ansigtssøgninger ind i deres daglige slagpoliti, og Adzima byggede et internt websted med bare knogler, der lod dem søge fra deres patruljebiler. Han faldt procentsatserne for søgningstillid og designede systemet til at returnere fem resultater hver gang: Da systemet returnerede nul resultater, sagde han, deputerede undrede sig over, om de havde ødelagt noget. For at krydre det, tilføjede han også en unødvendig lilla "scanning" -animation, hver gang en stedfortræder uploadede et foto - et strejf, som han sagde, var inspireret af politishow som "CSI."

Læs hele historien her ...

Tilmeld
Underretning af
gæst
0 Kommentarer
Inline feedbacks
Se alle kommentarer