Sværme af AI-droner for at patruljere Europas grænser

Forestil dig, at du vandrer gennem skoven nær en grænse. Pludselig hører du et mekanisk summende, som en gigantisk bi. To quadcopters har set dig og svæve ind for at se nærmere på. Antenner på begge droner og på et nærliggende autonomt jordkøretøj henter radiofrekvenserne, der kommer fra mobiltelefonen i lommen. De sender signalerne til en central server, der triangulerer din nøjagtige placering og feeder dem tilbage til dronerne. Roboterne lukker ind.

Kameraer og andre sensorer på maskinerne genkender dig som menneskelig og prøver at konstatere dine intentioner. Er du en trussel? Krydser du ulovligt en grænse? Har du en pistol? Er du involveret i terrorhandlinger eller organiseret kriminalitet? Maskinerne sender videofeed til deres menneskelige operatør, en grænsevagter på et kontor miles væk, der kontrollerer videoer og beslutter, at du ikke er en risiko. Grænsevagten trykker på en knap, og robotterne kobles fra og fortsætter med deres patrulje.

Dette er ikke science fiction. Den Europæiske Union finansierer et projekt til udvikling af droner, der er piloteret med kunstig intelligens og designet til autonomt at patruljere Europas grænser. Dronerne vil fungere i sværme, koordinere og bekræfte information blandt flåde af quadcopters, små fastvingede fly, jordbiler, ubåde og både. Udviklere af projektet, kendt som Roborder, siger, at robotterne vil være i stand til at identificere mennesker og uafhængigt beslutte, om de repræsenterer en trussel. Hvis de afgør, at du muligvis har begået en forbrydelse, underretter de grænsepolitiet.

Præsident Donald Trump har brugt spekteret af kriminelle, der krydser den sydlige grænse, for at vække nationalistisk politisk stemning og give sin base energi. I Europa, to år efter migrationskrisen, der bragte mere end en million mennesker til kontinentet, for det meste fra Mellemøsten og Afrika, er indvandring stadig et hot-button-problem, selv når antallet af nyankomne er faldet. Politiske partier i hele EU vinder valg den anti-immigrant platforme og vedtage stadig mere restriktive grænsepolitikker. Tekniske etikere og fortalere for privatliv er bekymrede for, at Roborder og projekter som det outsourcer for meget retshåndhævelsesarbejde til ikke-menneskelige aktører og let kunne våben mod mennesker i grænseområder.

”Udviklingen af ​​disse systemer er et mørkt skridt ind i moralsk farligt territorium,” sagde Noel Sharkey, emeritus-professor i robotik og kunstig intelligens ved Sheffield University i England og en af ​​grundlæggerne af International Committee for Robot Arms Control, en nonprofit går ind for militær brug af robotik. Sharkey viser eksempler på våbnede droner, der i øjeblikket findes på markedet: flyvende robotter udstyret med Tasers, peberspray, gummikugler og andre våben. Han advarer om konsekvenserne af at kombinere denne teknologi med AI-baseret beslutningstagning og bruge den i politisk ladede grænsezoner. ”Det er kun et spørgsmål om tid, før en drone kan gribe ind for at stoppe folk,” fortalte Sharkey The Intercept.

Robords udviklere overtræder muligvis også betingelserne for deres finansiering i henhold til dokumenter om projektet, der er opnået via EU-reglerne om gennemsigtighed. Initiativet finansieres for det meste af et EU-forsknings- og innovationsstøtte på € 8 mio. € beregnet til projekter, der udelukkende er ikke-militære, men Roborder's udviklere erkender, at dele af deres foreslåede system involverer militær teknologi eller let kunne konverteres til militær brug.

Meget af udviklingen af ​​Roborder klassificeres, men The Intercept opnåede interne rapporter relateret til etiske overvejelser og bekymringer omkring programmet. Denne dokumentation blev forkert behandlet og utilsigtet frigivet i sin helhed.

I en af ​​rapporterne forsøgte Robords udviklere at adressere etiske kriterier, der er knyttet til deres EU-finansiering. Udviklere overvejede, om deres arbejde kunne ændres eller forbedres for at skade mennesker, og hvad der kunne ske, hvis teknologien eller den viden, der blev udviklet i projektet "endte i de forkerte hænder." Disse etiske spørgsmål rejses, skrev udviklerne, når "forskning gør brug af klassificerede oplysninger, materialer eller teknikker; farlige eller begrænsede materialer [;] og hvis specifikke resultater af forskningen kan udgøre en fare for deltagere eller for samfundet som helhed. ”

Robords udviklere argumenterede for, at disse etiske bekymringer ikke gjaldt deres arbejde, idet de anførte, at deres eneste mål var at udvikle og teste den nye teknologi, og at den ikke ville blive solgt eller overført uden for Den Europæiske Union i løbet af projektets livscyklus. Men i interviews med The Intercept erkendte projektudviklere, at deres teknologi kunne genbruges og sælges, selv uden for Europa, efter at den europæiske projektcyklus er afsluttet, hvilket forventes at ske næste år.

Ud over Roborder-projektet antyder de etiske rapporter, der er indgivet til Europa-Kommissionen, et større spørgsmål: Når det drejer sig om ny teknologi med potentialet til at blive brugt mod sårbare mennesker på steder med få menneskerettighedsbeskyttelse, der beslutter hvad vi skal og ikke bør udvikle ?

Roborder vandt sit finansieringsstipendium i 2017 og har til hensigt at udvikle en omsættelig prototype - "en sverm af robotik til støtte for grænseovervågning" - ved midten af ​​2020. Dets udviklere håber at opbygge og udstyre en samling af luft-, sø- og landdroner, der kan kombineres og sendes ud på grænsepatruljemissioner, idet de søger efter ”trusler” autonomt baseret på information leveret af menneskelige operatører, sagde Stefanos Vrochidis, Robords projektleder .

Dronerne vil anvende optiske, infrarøde og termiske kameraer; radar; og radiofrekvenssensorer for at bestemme trusler langs grænsen. Mobiltelefonfrekvenser vil blive brugt til at triangulere placeringen af ​​personer, der er mistænkt for kriminel aktivitet, og kameraer identificerer mennesker, kanoner, køretøjer og andre genstande. ”Hovedmålet er at have så mange sensorer i marken som muligt for at hjælpe patruljepersonale,” sagde Kostas Ioannidis, Robords tekniske manager.

Læs hele historien her ...