Amazons ansigtsgenkendelsessoftware er 'defekt, partisk og farlig'

Del denne historie!
image_pdfimage_print
Efter at have identificeret 28 medlemmer af Kongressen som politi mistænkte, synes Amazons ansigtsgenkendelse AI kun at arbejde omkring 80% af tiden, og alligevel sælges det massivt til regeringer og politibureauer. Selv hvis det fungerede 95% af tiden, risikerer de 5%, der fejlagtigt identificeres, at deres liv ødelægges for intet. ⁃ TN Editor

Et ansigtsgenkendelsesværktøj, som Amazon.com Inc sælger til webudviklere forkert identificerede 28 medlemmer af Kongressen som politi mistænkte, i en test udført af American Civil Liberties Union (ACLU), sagde organisationen torsdag.

Amazon svarede i et svar, at det tog problemer med indstillingerne for sit ansigt-ID-værktøj under testen. Resultaterne understreger ikke desto mindre de risici, som enkeltpersoner kan udsættes for, hvis politiet bruger teknologien på visse måder til at fange kriminelle.

Siden maj har ACLU og andre borgerrettighedsgrupper presset Amazon til at stoppe med at sælge regeringer adgang til Rekognition, en stærk image ID-software, der blev afsløret i 2016 af virksomhedens cloud-computing-afdeling.

Grupperne citerede brug af Rekognition af retshåndhævelse i Oregon og Florida og advarede om, at værktøjet kunne bruges til at målrette indvandrere og mennesker af farver uretfærdigt.

Deres aktivisme har startet en offentlig debat. Præsidenten for Microsoft Corp, Amazons rival, der også bruger ansigtsgenkendelsesteknologi, opfordrede Kongressen tidligere i denne måned til at studere mulige regler.

ACLU sagde, at den ønsker, at Kongressen skal vedtage et moratorium for brug af teknologien ved lovhåndhævelse.

Ansigtsgenkendelse er allerede meget udbredt i Kina til politimæssige formål, og en række opstartende virksomheder der - nogle værdsat til milliarder af dollars - forfølger aggressivt teknologien.

Amazon har noteret en række anvendelser til Rekognition, fra at opdage stødende indhold online til at identificere berømtheder.

”Vi er fortsat begejstrede for, hvordan billed- og videoanalyse kan være en drivkraft til det gode i verden,” sagde en talskvinde for Amazon Web Services i en erklæring, hvori hun citerede sin hjælp til at finde mistede børn og forhindre forbrydelser. Hun sagde, at Rekognition normalt blev brugt til at indsnævre feltet til menneskelig gennemgang, ikke til at træffe endelige beslutninger.

ACLU sagde, at det betalte kun $ 12.33 for at få Amazon Rekognition til at sammenligne officielle fotos af hvert medlem af US House og Senate med en database med 25,000-fotos af offentlig arrestation.

Teknologien identificerede ”kampe” for 28 medlemmer af Kongressen med mindst 80 procent nøjagtighed, Amazons standardindstilling, sagde ACLU.

Læs hele historien her ...

Deltag i vores mailingliste!


Tilmeld
Underretning af
gæst
1 Kommentar
Ældste
Nyeste Mest afstemt
Inline feedbacks
Se alle kommentarer
Rich Hutton

Så softwaren identificerede 28 medlemmer af kongressen som SUSPECT ...

Nå nu ... Fordi 98% af 28 er NWO-demokratiske kommissioner ...

Jeg vil sige, at programmet fungerer temmelig godt ...

Spred denne meddelelse i hele verden ...