IBM brugte NYPD-overvågningsoptagelser til at udvikle teknologi, der lader politiets søgning efter hudfarve

Wikipedia Commons
Del denne historie!
Teknokrater er afhængige af eksterne data for at brænde deres forskellige eksperimenter. Uden data er deres ingen grund til deres eksistens. Yderligere betragtes data som en universel ret, der på en eller anden måde tildeler dem særlige erhvervelsesbeføjelser: det har du det, de tror, ​​de har ret til det. ⁃ TN Editor

I tiåret efter 9 / 11-angrebene flyttede New York City Police Department for at stille millioner af New Yorkere under konstant overvågning. Advarsel om terrortrusler, afdelingen oprettede en plan for tæppe Manhattan's gader i centrum med tusinder af kameraer og havde, af 2008, centraliserede sine videoovervågningsoperationer til et enkelt kommandocenter. To år senere, NYPD annoncerede, at kommandocentret, kendt som Lower Manhattan Security Coordination Center, havde integreret avanceret videoanalysesoftware i udvalgte kameraer i hele byen.

Videoanalysesoftwaren fangede stillbilleder af enkeltpersoner, der blev fanget på tv-optagelser med lukket kredsløb og mærkede billederne automatisk med fysiske mærker, såsom tøjfarve, så politiet hurtigt kan søge i timevis af video efter billeder af enkeltpersoner, der matcher en beskrivelse af interesse. På det tidspunkt softwaren begyndte også at generere alarmer til uovervågede pakker, biler, der fremskynder en gade i forkert retning, eller personer, der kommer ind i begrænsede områder.

I årenes løb har NYPD kun delt lejlighedsvis små opdateringer om programmets fremskridt. I et 2011-interview med Scientific Americanfor eksempel sagde inspektør Salvatore DiPace, daværende kommandant for Lower Manhattan Security Initiative, at politiafdelingen testede, om softwaren kunne bokse billeder af folks ansigter, da de passerede ved metro-kameraer og efterfølgende træk gennem billederne for forskellige uspecificerede “ ansigtstræk."

Mens ansigtsgenkendelsesteknologi, som måler individuelle ansigter på over 16,000 point til finkornet sammenligning med andre ansigtsbilleder, har tiltrukket sig betydelig juridisk kontrol   medie opmærksomhed, har denne objektidentifikationssoftware stort set undgået opmærksomheden. Hvordan præcis denne teknologi blev udviklet, og hvilke særlige funktioner softwaren blev bygget til at katalogisere, er aldrig blevet afsløret offentligt af NYPD.

Nu takket være fortrolige virksomhedsdokumenter og interviews med mange af de teknologer, der er involveret i udviklingen af ​​softwaren, The Intercept og the Investigative Fund har lært, at IBM begyndte at udvikle denne objektidentifikationsteknologi ved hjælp af hemmelig adgang til NYPD-kameraoptagelser. Med adgang til billeder af tusinder af uvidende New Yorkere, der blev tilbudt af NYPD-embedsmænd, så tidligt som i 2012, oprettede IBM nye søgefunktioner, der giver andre politiafdelinger mulighed for at søge i kameraoptagelser efter billeder af mennesker efter hårfarve, ansigtshår og hudfarve. .

IBM afviste at kommentere sin brug af NYPD-optagelser til at udvikle softwaren. I et e-mail-svar på spørgsmål fortalte NYPD imidlertid The Intercept, at “video fra tid til anden blev leveret til IBM for at sikre, at det produkt, de udviklede, ville fungere i det overfyldte urbane NYC-miljø og hjælpe os med at beskytte byen . Der er intet i NYPD's aftale med IBM, der forbyder deling af data med IBM til systemudviklingsformål. Endvidere har alle leverandører, der indgår kontraktlige aftaler med NYPD, det absolutte krav om at holde alle data leveret af NYPD fortrolige i løbet af aftalens løbetid, efter aftalens afslutning, og i tilfælde af, at aftalen opsiges. ”

I en e-mail til The InterceptNYPD bekræftede, at udvalgte myndigheder for bekæmpelse af terrorisme havde adgang til en forudgivet version af IBMs program, der inkluderede hudfarve-søgefunktioner, allerede i sommeren 2012. NYPD-talsmand Peter Donald sagde, at søgekarakteristikkerne kun blev brugt til evalueringsformål, og at officerer blev bedt om ikke at medtage funktionen til hudfarvesøgning i deres vurdering. Afdelingen besluttede til sidst ikke at integrere analyseprogrammet i sin større overvågningsarkitektur og udfasede IBM-programmet i 2016.

Efter at have testet disse kropslige søgefunktioner med NYPD frigav IBM nogle af disse muligheder i en 2013-produktudgivelse. Senere versioner af IBMs software bevarede og udvidede disse kropslige søgefunktioner. (IBM svarede ikke på et spørgsmål om den aktuelle tilgængelighed af sine videoanalyseprogrammer.)

På spørgsmål om hemmeligholdelsen af ​​dette samarbejde sagde NYPD, at "forskellige valgte ledere og interessenter" blev orienteret om afdelingens bestræbelser "for at holde denne by trygt", og tilføjede, at det var nødvendigt at dele kameraadgang med IBM for at systemet kunne fungere. IBM svarede ikke på et spørgsmål om, hvorfor virksomheden ikke offentliggjorde dette samarbejde. Donald sagde, at IBM gav afdelingen licenser til at anvende systemet til 512-kameraer, men sagde, at analysen blev testet på "færre end halvtreds." Han tilføjede, at IBM-personale havde adgang til visse kameraer med det eneste formål at konfigurere NYPD's system, og at afdeling indførte beskyttelsesforanstaltninger for at beskytte dataene, herunder "aftaler om ikke-afsløring af hver enkelt person, der får adgang til systemet; aftaler om ikke-oplysning om de virksomheder, som leverandørerne arbejdede for; og baggrundskontrol. ”

Læs hele historien her ...

Tilmeld
Underretning af
gæst

0 Kommentarer
Inline feedbacks
Se alle kommentarer