IBM stopper enheden for ansigtsgenkendelse over skævhed og ulighed

Wikimedia Commons, Rosemaryetoufee
Del denne historie!
image_pdfimage_print
Uanset IBMs motiv over for dumping af sin ansigtsgenkendelsesvirksomhed giver den en dristig erklæring til hele branchen, herunder Amazon og Google, om, at denne teknologi ikke har nogen plads i lovhåndhævelse i første omgang. ⁃ TN Editor

IBM's CEO Arvind Krishna annoncerede i dag, at virksomheden ikke længere ville sælge ansigtsgenkendelsestjenester og krævede en "national dialog" om, hvorvidt det overhovedet skulle bruges. Han gav også udtryk for støtte til en ny lov, der sigter mod at reducere politiets vold og øge ansvarligheden.

I et brev rapporteret af CNBC, skrevet til støtte for Ret i poliseringsloven introduceret i dag, forklarer Krishna virksomhedens udgang fra den kontroversielle forretning med ansigtsidentifikation som en tjeneste.

IBM er modstandere af og vil ikke kondonere anvendelse af nogen teknologi, herunder ansigtsgenkendelsesteknologi, der tilbydes af andre leverandører, til masseovervågning, racemæssig profilering, krænkelser af grundlæggende menneskerettigheder og frihedsrettigheder eller noget formål, der ikke er i overensstemmelse med vores værdier og tillidsprincipper og gennemsigtighed. Vi mener, at det nu er tid til at indlede en national dialog om, hvorvidt og hvordan ansigtsgenkendelsesteknologi skal anvendes af indenlandske retshåndhævende myndigheder.

Denne omhyggelige tilgang til udvikling og implementering af teknologien er ikke en ny: IBM sidste år understregede den med en ny database med ansigtsdata det var mere forskelligt end noget tilgængeligt på det tidspunkt. Når alt kommer til alt er disse systemer, som ethvert program, kun så gode som de oplysninger, du giver dem.

Imidlertid ser ansigtsgenkendelse ikke ud til at have gjort virksomheden mange penge, hvis nogen. For at være fair er teknologien virkelig i sin spædbarn, og der er få applikationer, hvor en virksomhedsleverandør som IBM giver mening. Amazons kontroversielle rekognitionstjeneste, selvom den er blevet testet af en hel del retshåndhævende enheder, er ikke godt tænkt på på området. Det ville ikke være meget til fordel for IBM at forsøge at konkurrere med et produkt, der på lignende måde bare næppe er godt nok til at bruge.

Krishnas brev siger også, at "leverandører og brugere af Al-systemer har et delt ansvar for at sikre, at Al testes for bias, især når det bruges i retshåndhævelse, og at sådan bias-test er revideret og rapporteret." Dette er noget af et skillebillede til dem i marken, især Amazon, der er blevet opfordret til den dårlige kvalitet af ansigtsgenkendelsessystemer, men ikke er ophørt med at markedsføre dem.

Det er uklart, om eller hvordan virksomheden fortsat vil udføre AI-forskning i disse linjer.

Læs hele historien her ...

Deltag i vores mailingliste!


Tilmeld
Underretning af
gæst
0 Kommentarer
Inline feedbacks
Se alle kommentarer