iBorderCtrl mislykkes: EU's grænsekontrol 'løgndetektor' AI er Hogwash

Kredit: Nicole Gray
Del denne historie!
image_pdfimage_print
Overzealous Technocrats over-hyped iBorderCrtl for at imponere klienter og offentligheden. Det er dog i stand til at indsamle enorme mængder data om dig og føje dem til din permanente fil. Det er ikke en løgnedetektor-maskine. ⁃ TN Editor

At kalde EU's nye grænsekontrol AI en "løgnedetektor" er som at kalde Brexit for en mindre uenighed blandt venner.

Den nederste del er, at EU tester et pilotprogram for internationale lufthavne med en maskinlæringsbaseret ”løgnedetektor.” CNN brød historien i sidste uge i dens artikel ”Passagerer, der står over for AI, ligger i detektorforsøg i EU-lufthavne.

I henhold til rapporten (og projektets internet side) EU tester et pilotprogram, der involverer AI, der bruger en avatar til at stille folk spørgsmål. Det antages, at denne AI-drevne konstruktion ved, om en person bliver sandfærdig, når de svarer, og det flagger dem, som den bestemmer, ikke er. Når nogen er mærket som en løgner, indkaldes menneskelige agenter for at undersøge yderligere.

Afhængig af dine synspunkter på privatlivets fred og indvandring er dette enten musik for ørerne eller begyndelsen på en dystopisk fremtid lige ud af et orwellsk mareridt. Du har forkert begge veje.

For eksempel, hvis du tænker "vi kunne bare få det til at spørge alle" er du en terrorist? "Og gøre EU mere sikkert for alle", antager du sandsynligvis, at der er sådan noget som en AI-løgnedetektor. Der er der ikke. Bare rolig, det er en almindelig fejl.

Som alle løgndetektorer er AI-baserede løsninger afhængige af hit-eller-miss-gætter med alt, hvad regeringen betragter som en acceptabel niveaufejl. En polygraf er f.eks påståede at have mellem en 75 og 90 procent nøjagtighedsklassificering. Det registrerer ikke løgne, det registrerer de subtile signaler, der er forbundet med at lyve. Ligesom dette registrerer AI heller ikke løgne. Den registrerer biometriske indikatorer, der er forbundet med løgn - med ca. 76 procent succes, angiveligt.

Men på den anden side, hvis du tænker, at dette er den mest alvorlige krænkelse af menneskerettighederne i en lufthavn siden de dage, hvor TSA-agenter i USA blev bedt om at profilere muslimer, har du også forkert. Stort set alligevel: det går langt ud over bare at besværge udlændinge i lufthavne.

"Løgnedetektoren" er bare toppen af ​​isbjerget. Hvad du har brug for at vide, er, at i dette tilfælde er "løgnregistrering" en kort hånd til "dataindsamling."

EU's nye lufthavnsprojekt kaldes ikke “operation lie detector.” Det kaldes “iBorderCtrl.” Og “lie ליגן” er bare en del af, hvad det gør. Her er et billede fra projektets hjemmeside:

Kredit: iBorderCtrl

Lad os først starte med løgndetekteringsmodulet: Automatic Deception Detection System (ADDS) *. Stjernen er fra iBorderCtrl-webstedet, TNW tilføjede ikke det. Før du læser om, hvad ADDS gør, er folk, der bygger det, tvunget til at påpege følgende:

*ADDS er baseret på tidligere udviklinger, såkaldt Silent Talker [1] [2]. Projektet har anvendt denne teknologi og er godt opmærksom på kontroversen omkring den. Dette værktøj har gennemgået følgende trin: Et videnskabeligt fundament opnås, når en forskning starter fra en uvidenhed og følger den videnskabelige metode til at fjerne denne uvidenhed. Som videnskabsfolk på AI er et specifikt forskningsspørgsmål “Er der ikke-verbale adfærdsindikatorer for bedrag”, og de gennemførte eksperimenter indsamler data for at understøtte eller tilbagevise de relevante hypoteser.

Grundlæggende anerkender projektet, men er ligeglad med, kontroverser omkring brugen af ​​AI til "løgnedetektion."

Resten af ​​forklaringen til ADDS er fuld af de gamle ”ikke-verbale signaler” -argumentet. Det er fagligt interessant, men bestemt ikke det vanvittige gennembrud, vi har brug for, for at AI bliver en bonafide løgndetektor. Som sådan, skam enhver regering for at overveje det på dette tidspunkt.

Men ADDS er den fjollede uvigtige del af iBorderCTRL. Det er det falske monster, der distraherer dig fra den kolde, beregnede dataindsamling, der virkelig forekommer. Grundlæggende er ADDS en lavhængende frugt for pundits at pege på og sætte samtaler om, hvilke funktioner AI virkelig har. I mellemtiden, hvis jeg kan parafrasere The Ragin 'Cajun: "Det er dataene, dumme."

I virkeligheden er resten af ​​iBorderCtrl-pakken det, der er skræmmende. ADDS er meget lig den "personlighedsprofil", som Cambridge Analytica brugte til at overbevise folk om at opgive deres data. Når alt kommer til alt, hvorfor ville du ikke acceptere at tage en løgnedetektor, hvis du ikke har noget at skjule?

Svaret er, at du har masser at skjule, uanset om du lyver eller ej.

Her er hvad iBorderCtrl ellers gør:

  • Udarbejder en fuld ansigtsprofil ved hjælp af video og fotografier
  • Skraber og slør alle dine konti på sociale medier
  • Dokument og signaturanalyse
  • Opretter og gemmer din digitale stemmeprinter
  • Risikovurdering baseret på samlede data
  • Søger efter skjulte mennesker

Lad os tage den sidste til undersøgelse virkelig hurtigt. Søger du efter skjulte mennesker? I en lufthavn? Usandsynlig. I henhold til projektets litteratur ser dette efter mennesker, der gemmer sig. Men det er smerteligt indlysende, at dette er designet til grænseovergange, hvor mobile agenter sporer eller søger efter mennesker i omgivelser uden for lufthavne. Stadig er det en del af lufthavns “løgnedetektoren”, du hører så meget om.

Læs hele historien her ...

Deltag i vores mailingliste!


Tilmeld
Underretning af
gæst
1 Kommentar
Ældste
Nyeste Mest afstemt
Inline feedbacks
Se alle kommentarer