Påstand: Ansigtsgenkendelse AI kan afsløre dit politiske parti

Forskere har oprettet et maskinlæringssystem, som de hævder kan bestemme en persons politiske parti med rimelig nøjagtighed, kun baseret på deres ansigt. Undersøgelsen fra en gruppe, der også viste, at seksuel præference tilsyneladende kan udledes på denne måde, adresserer oprigtigt og omhyggeligt undgår faldgruber i "moderne frenologi", hvilket fører til den ubehagelige konklusion, at vores udseende kan udtrykke mere personlige oplysninger, som vi synes.

Undersøgelsen, der dukkede op i denne uge i Nature-tidsskriftet Scientific Reports, blev udført af Stanford Universitys Michal Kosinski. Kosinski skabte overskrifter i 2017 med arbejde der fandt ud af, at en persons seksuelle præference kunne forudsiges ud fra ansigtsdata.

Undersøgelsen tiltrak ikke så meget kritik for dens metoder, men for selve ideen om, at noget, der ikke er fysisk-fysisk, kunne detekteres på denne måde. Men Kosinskis arbejde, som han forklarede dengang og bagefter, blev udført specifikt for at udfordre disse antagelser og var lige så overraskende og foruroligende for ham som for andre. Ideen var ikke at opbygge en slags AI gaydar - snarere tværtimod. Som holdet skrev på det tidspunkt, var det nødvendigt at offentliggøre for at advare andre om, at sådan noget kan bygges af mennesker, hvis interesser gik ud over det akademiske:

Vi blev virkelig forstyrrede af disse resultater og brugte meget tid på at overveje, om de overhovedet skulle offentliggøres. Vi ønskede ikke at muliggøre netop de risici, vi advarer mod. Evnen til at kontrollere, hvornår og for hvem man skal afsløre sin seksuelle orientering er afgørende ikke kun for ens velbefindende, men også for ens sikkerhed.

Vi følte, at der er et presserende behov for at gøre politikere og LGBTQ-samfund opmærksomme på de risici, de står over for. Vi oprettede ikke et privatlivsinvaderende værktøj, men viste snarere, at grundlæggende og meget anvendte metoder udgør alvorlige privatlivstrusler.

Lignende advarsler kan lyde her, for mens politisk tilknytning i det mindste i USA (og i det mindste i øjeblikket) ikke er det as følsom eller personlig et element som seksuel præference, er det stadig følsomt og personligt. En uge går næppe uden at have læst om en eller anden politisk eller religiøs “dissident” eller anden, der bliver arresteret eller dræbt. Hvis undertrykkende regimer kunne få det, der passerer sandsynlig årsag, ved at sige "algoritmen markerede dig som en mulig ekstremist" i stedet for for eksempel at opfange beskeder, gør det denne form for praksis meget lettere og mere skalerbar.

Algoritmen i sig selv er ikke noget hyper-avanceret teknologi. Kosinskis papir beskriver en ret almindelig proces til fremføring af et maskinlæringssystem med billeder af mere end en million ansigter, indsamlet fra datingsider i USA, Canada og Storbritannien samt amerikanske Facebook-brugere. De mennesker, hvis ansigter blev brugt, blev identificeret som politisk konservative eller liberale som en del af webstedets spørgeskema.

Algoritmen var baseret på open source-ansigtsgenkendelsessoftware, og efter grundlæggende behandling for at beskære til ansigtet (på den måde kryber ingen baggrundsgenstande ind som faktorer) reduceres ansigterne til 2,048 scores, der repræsenterer forskellige funktioner - som med anden ansigtsgenkendelse algoritmer, disse er ikke nødvendige intuitive ting som “øjenbrynfarve” og “næsetype”, men mere computerindfødte koncepter.

Systemet fik politiske tilknytningsdata hentet fra folket selv, og med dette begyndte det flittigt at undersøge forskellene mellem ansigtsstatistikken for mennesker, der identificerede sig som konservative og dem, der identificerede sig som liberale. Fordi det viser sig, er der forskelle.

Det er selvfølgelig ikke så simpelt som "konservative har buskede øjenbryn" eller "liberale rynker panden mere." Det kommer heller ikke ned på demografi, hvilket ville gøre tingene for lette og enkle. Når alt kommer til alt, hvis identifikation af politisk parti korrelerer med både alder og hudfarve, giver det en simpel forudsigelsesalgoritme lige der. Men skønt softwaremekanismerne, der anvendes af Kosinski, er ret standard, var han omhyggelig med at dække sine baser, så denne undersøgelse, som den sidste, ikke kan afvises som pseudovidenskab.

Den mest åbenlyse måde at tackle dette på er ved at lade systemet gætte om det politiske parti af mennesker i samme alder, køn og etnicitet. Testen involverede at blive præsenteret med to ansigter, en af ​​hver part, og gætte hvilken der var hvilken. Naturligvis er sandsynlighedsnøjagtigheden 50%. Mennesker er ikke særlig gode til denne opgave, de udfører kun lidt over tilfældet, ca. 55% nøjagtige.

Algoritmen formåede at nå så højt som 71% nøjagtigt, når det forudsagde politisk parti mellem to ens individer, og 73% præsenterede med to personer i enhver alder, etnicitet eller køn (men stadig garanteret at være en konservativ, en liberal).

Læs hele historien her ...