Amazons ansigtsgenkendelsessoftware er 'fejlbehæftet, partisk og farlig'

Del denne historie!

Efter at have identificeret 28 medlemmer af kongressen som politimistænkte, synes Amazons ansigtsgenkendelses-AI kun at arbejde omkring 80% af tiden, og alligevel sælges den en masse til regeringer og politiagenturer. Selvom det fungerede 95% af tiden, er de 5%, der fejlagtigt identificeres, i fare for at få deres liv ødelagt for ingenting. ⁃ TN Editor

Et ansigtsgenkendelsesværktøj, som Amazon.com Inc sælger til webudviklere forkert identificerede 28 medlemmer af Kongressen som politi mistænkte, i en test udført af American Civil Liberties Union (ACLU), sagde organisationen torsdag.

Amazon svarede i et svar, at det tog problemer med indstillingerne for sit ansigt-ID-værktøj under testen. Resultaterne understreger ikke desto mindre de risici, som enkeltpersoner kan udsættes for, hvis politiet bruger teknologien på visse måder til at fange kriminelle.

Siden maj har ACLU og andre borgerrettighedsgrupper presset Amazon til at stoppe med at sælge regeringer adgang til Rekognition, en kraftfuld image ID-software, der blev afsløret i 2016 af virksomhedens cloud-computing-division.

Grupperne citerede brug af Rekognition af retshåndhævelse i Oregon og Florida og advarede om, at værktøjet kunne bruges til at målrette indvandrere og mennesker af farver uretfærdigt.

Deres aktivisme har startet en offentlig debat. Præsidenten for Microsoft Corp, Amazons rival, som også bruger ansigtsgenkendelsesteknologi, opfordrede Kongressen tidligere på denne måned til at undersøge mulige regler.

ACLU sagde, at den ønsker, at Kongressen skal vedtage et moratorium for brug af teknologien ved lovhåndhævelse.

Ansigtsgenkendelse er allerede meget udbredt i Kina til politiformål, og en række opstartsvirksomheder der - nogle til en værdi af milliarder dollars - forfølger aggressivt teknologien.

Amazon har noteret en række anvendelser til Rekognition, fra at opdage stødende indhold online til at identificere berømtheder.

”Vi forbliver begejstrede for, hvordan billed- og videoanalyse kan være en drivkraft for det gode i verden,” sagde en talskvinde for Amazon Web Services i en erklæring med henvisning til sin hjælp til at finde mistede børn og forhindre forbrydelser. Hun sagde, at rekognition normalt blev brugt til at indsnævre feltet til menneskelig gennemgang og ikke til at træffe endelige beslutninger.

ACLU sagde, at det betalte kun $ 12.33 for at få Amazon Rekognition til at sammenligne officielle fotos af hvert medlem af US House og Senate med en database med 25,000-fotos af offentlig arrestation.

Teknologien identificerede "match" for 28 medlemmer af Kongressen med mindst 80 procent nøjagtighed, Amazons standardindstilling, sagde ACLU.

Læs hele historien her ...