Biometrisk smackdown: tilbageslag vokser mod ansigtsgenkendelse

En teenager sagsøger Apple for $ 1 milliarder dollars. Det retssag, indleveret mandag, hænger sammen med den påståede anvendelse af en stadig mere populær - og kontroversiel - teknologi: ansigtsgenkendelse. Teknikken kan identificere et individ ved at analysere deres ansigtsfunktioner i billeder, i videoer eller i realtid.

Sagsøgeren, 18-årig universitetsstuderende Ousmane Bah, hævder selskabets ansigtsgenkendelsesværktøj førte til, at han blev arresteret for Apple Store-tyverier han begik ikke ved fejlagtigt at forbinde sit navn med ansigtet til den rigtige tyv. NYPD-officerer kom til Bahs hjem sidste efterår for at arrestere ham ved 4 om morgenen, kun for at opdage, at de tilsyneladende havde den forkerte fyr. Bah siger, at hele prøvelsen forårsagede ham alvorlig følelsesmæssig nød. I mellemtiden insisterer Apple på, at butikkerne ikke bruger teknik til ansigtsgenkendelse.

Uanset sandheden viser sig at være i dette tilfælde, er Bahs retssag det seneste tegn på en eskalerende tilbageslag mod ansigtsgenkendelse. Efterhånden som teknologien implementeres i flere og flere domæner, har det i stigende grad givet anledning til kontrovers. Tag for eksempel de sorte lejere i Brooklyn der for nylig modsatte sig deres udlejers plan om at installere teknologien i deres husleiestabiliserede bygning. Eller den rejsende, der klagede via Twitter, at JetBlue havde tjekket hende ind i sin flyvning ved hjælp af ansigtsgenkendelse uden hendes samtykke. (Flyselskabet forklarede, at det havde brugt Department of Homeland Security-data til at gøre det og undskyldte.)

Det er ud over forskere, fortalereog tusinder af medlemmer af offentlighedender har givet udtryk for bekymring over risikoen for, at ansigtsgenkendelse fører til uretmæssige anholdelser. De bekymrer sig for, at visse grupper vil blive uforholdsmæssigt berørt. Teknologi til ansigtsgenkendelse er temmelig god til at identificere hvide mandlige ansigter, fordi det er de slags ansigter, det er blevet trænet på. Men alt for ofte misidentificerer mennesker af farve og kvinder. Denne bias kunne føre til, at de holdes uforholdsmæssigt til afhør, da flere retshåndhævende myndigheder anvender teknologien.

Nu når vi et bøjningspunkt, hvor større virksomheder - ikke kun Apple, men også Amazon og Microsoft - bliver tvunget til at tage sådanne klager alvorligt. Og selvom de endelig prøver at telegrafere, at de er følsomme over for bekymringerne, kan det være for sent at vinde tillid tilbage. Offentlig utilfredshed har nået en sådan feber tonehøjde, at nogle, herunder byen San Francisco, overvejer nu helt forbud mod teknik til ansigtsgenkendelse.

En afstemning for at forby Amazon at sælge Rekognition

Amazon er ikke nøjagtigt kendt for at spille rart. Det har et ry for bekæmper foreslåede love, det ikke kan lide og for aggressivt at forsvare sit arbejde med politiet og regeringen. I årevis kunne det have råd til at opføre sig på den måde. Alligevel gør oprøret over ansigtsgenkendelse den holdning sværere at opretholde.

Amazons værktøj til ansigtsgenkendelse, Rekognition, er allerede solgt til retshåndhævelse og sat til indvandring og toldhåndhævelse. Men førende AI-forskere argumenterede for nylig i et åbent brev at teknologien er dybt mangelfuld. (Eksempel: I en test sidste år, Anerkendelse matchede 28 medlemmer af Kongressen til kriminelle krusskud.) Og Amazon-aktionærer har kæmpet for en afstemning om, hvorvidt virksomheden skal stoppe med at sælge værktøjet til regeringsorganer, indtil det vedtager en uafhængig gennemgang af dens borgerlige rettighedspåvirkning.

Amazon kæmpede hårdt for at forhindre afstemningen i at ske, men Securities and Exchange Commission regerede denne måned skal virksomheden lade det gå videre. Det finder sted den 19. maj. Selvom resultatet i vid udstrækning vil være symbolsk - aktionærens beslutninger ikke er bindende, er afstemningen at bringe negativ opmærksomhed til Amazon.

I mellemtiden har virksomheden været forsøger at blødgøre dets image ved for eksempel at ringe tilbage nogle af dens aggressive reklametaktikker. Kartik Hosanagar, en professor i Wharton School of Business, sagde Amazon tager "forebyggende handling" for at gøre det rart "før en af ​​[præsidentens] kandidater gør Amazon til plakatbarnet af det, de omtaler som problemerne med Big Tech."

Microsofts blandede meddelelser om den etiske brug af ansigtsgenkendelse

Mens Amazon stadig er et ungt firma, der blev grundlagt i 1994, har Microsoft nået voksen alder - det har eksisteret siden 1975. Den længere levetid betyder, at det har haft mere tid til at begå fejl, men også mere tid til at lære af dem. Kim Hart hos Axios hævder, at det er grunden Microsoft har for det meste formået at undgå tilbageslag mod big tech. ”Microsoft, der skred sig igennem sin egen antitrustkamp med justitsministeriet i '90'erne, har undgået fejlene begået af de yngre, brasher Big Tech brødre," skriver hun.

Alligevel er Microsoft på ingen måde fuldstændig immun mod tilbageslag. Efter at det blev rapporteret i denne måned, at Microsoft-forskere havde produceret tre papirer om AI og ansigtsgenkendelse med et militært drevet universitet i Kina, skambulde nogle amerikanske politikere virksomheden for at hjælpe et regime, der tilbageholdes en million uighur-muslimer i interneringslejre   overvåger millioner mere. Senester Marco Rubio kaldte det "Dybt foruroligende ... en handling, der gør dem medskyldige i at hjælpe den kommunistiske kinesiske regerings totalitære censurapparat."

Pressen påpegede også, at virksomheden har solgt sin ansigtsgenkendelsessoftware til et amerikansk fængsel, og at Microsoft-præsident Brad Smith har sagt, det ville være "grusom" at helt stoppe med at sælge softwaren til offentlige agenturer.

Dage senere gjorde virksomheden det hårdt for at vise, at det holder af den etiske brug af AI. Smith annoncerede, at den havde nægtet at sælge sin ansigtsgenkendelsessoftware til et californisk retshåndhævelsesagentur, der ønskede at installere det i officerers biler og kropskameraer. Han sagde, at Microsoft nægtede af menneskerettighedsgrunde, idet det at vide, at brugen af ​​softwaren ville medføre, at folk i farver og kvinder holdes uforholdsmæssigt til afhør.

Skub for at forbyde ansigtsgenkendelse tech direkte

Denne måned har gjort det klart, at det offentlige pres fungerer, når det kommer til ansigtsgenkendelse. Behemoth-virksomheder ved, at de ikke længere kan ignorere kritikken - eller, som de for nylig gjorde, simpelthen sige, at de ville glæde sig over regulering af denne teknologi. Kritikere gør det klart, at det ikke er godt nok - de vil se, at sådanne virksomheder "kommer helt ud af overvågningsbranchen," som American Civil Liberties Union fortalte Vox.

Læs hele historien her ...