Militær oprettelse af AI-våbensystemer, der skal 'være løs for slagtning'

Videoen er skarp. To truende mænd står ved siden af ​​en hvid varevogn i en mark og holder fjernbetjeninger. De åbner varevognens bagdøre, og den klynkende lyd fra quadcopter droner crescendos. De vender en kontakt, og dronerne sværmer ud som flagermus fra en hule. I løbet af få sekunder klipper vi til et college-klasseværelse. Dræberrobotterne strømmer ind gennem vinduer og ventilationskanaler. Eleverne skriger af rædsel, fanget inde, da dronerne angriber med dødbringende kraft. Den lektion, som filmen, Slaughterbots, forsøger at formidle er klart: små dræberrobotter er enten her eller et lille teknologisk fremskridt væk. Terrorister kunne let indsætte dem. Og eksisterende forsvar er svagt eller ikke-eksisterende.

Nogle militæreksperter hævdede, at Slaughterbots - som blev lavet af Future of Life Institute, en organisation, der forsker eksistentielle trusler for menneskeheden - sensationaliserede et alvorligt problem, der anbragte frygt, hvor der kræves en rolig refleksion. Men når det kommer til krigens fremtid, er grænsen mellem science fiction og industriel kendsgerning ofte sløret. Det amerikanske luftvåben har forudsagt en fremtid, hvor "Swat-hold vil sende mekaniske insekter udstyret med videokameraer til at krybe inde i en bygning under en gidsler-standoff". Et ”mikrosystemsamarbejde” har allerede frigivet Octoroach, en ”ekstremt lille robot med et kamera og en radiosender, der kan dække op til 100 meter på jorden”. Det er kun en af ​​mange “biomimetiske”Eller naturimiterende våben, der er i horisonten.

Hvem ved, hvor mange andre skadelige væsner, der nu er modeller for avantgarde militære teoretikere. En nylig roman af PW Singer og August Cole, der foregår i en nær fremtid, hvor USA er i krig med Kina og Rusland, præsenterede en kalejdoskopisk vision om autonome droner, lasere og kaprede satellitter. Bogen kan ikke afskrives som en teknomilitær fantasi: den indeholder hundredvis af fodnoter, der dokumenterer udviklingen af ​​hvert stykke hardware og software, den beskriver.

Fremskridt inden for modellering af robotdræbemaskiner er ikke mindre foruroligende. En russisk science fiction-historie fra 60'erne, Crabs on the Island, beskrev en slags Hunger Games for AIs, hvor robotter kæmpede om hinanden om ressourcer. Tabere ville blive skrottet, og vinderne ville gyde, indtil nogle udviklede sig til at være de bedste drabsmaskiner. Når en førende computerforsker nævnte et lignende scenarie til USA's Defense Advanced Research Projects Agency (Darpa) og kaldte det en "robot Jurassic Park", en leder der kaldte det "gennemførligt". Det kræver ikke meget refleksion at indse, at et sådant eksperiment har potentialet til at gå vildt ud af kontrol. Udgifter er den største hindring for en stormagt, der eksperimenterer med sådanne potentielt destruktive maskiner. Softwaremodellering kan eliminere selv den barriere, så virtuelle kamptestede simuleringer kan inspirere til fremtidige militære investeringer.

i fortiden er nationalstater mødt for at forbyde særligt grufulde eller skræmmende nye våben. I midten af ​​det 20. århundrede forbød internationale konventioner biologiske og kemiske våben. Fællesskabet af nationer har forbudt brugen af blinding-laser teknologi, også. Et robust netværk af ngo'er har med succes opfordret FN til at indkalde medlemslande til at blive enige om et lignende forbud mod dræberrobotter og andre våben, der kan handle alene uden direkte menneskelig kontrol for at ødelægge et mål (også kendt som dødbringende autonome våbensystemer eller love). Og mens der har været debat om definitionen af ​​sådan teknologi, kan vi alle forestille os nogle særligt skræmmende slags våben, som alle stater burde være enige om aldrig at fremstille eller anvende. En drone, der gradvist opvarmede fjendens soldater ihjel ville overtræde internationale konventioner mod tortur; lydvåben designet til at ødelægge fjendens hørelse eller balance skal fortjene en lignende behandling. Et land, der designede og brugte sådanne våben, skulle bortvises fra det internationale samfund.

I det abstrakte kan vi sandsynligvis være enige om, at udstødelse - og strengere straf - også er fortjent for designerne og brugerne af dræberrobotter. Selve ideen om en maskine, der er løsgjort til slagtning, er afkøling. Og alligevel synes nogle af verdens største militærer at krybe mod at udvikle sådanne våben ved at forfølge en logik af afskrækkelse: de frygter at blive knust af rivalernes AI, hvis de ikke kan frigøre en lige så kraftig styrke. Nøglen til løsning af et sådant uhåndterligt våbenkapløb kan ligge mindre i globale traktater end i en forsigtig gentænkning af, hvad martial AI kan bruges til. Som "krig kommer hjem”, Udsendelse af militærstyrke inden for lande som USA og Kina er en skarp advarsel til deres borgere: uanset hvilken teknologi til kontrol og destruktion du tillader din regering at købe til brug i udlandet nu, kan det godt blive brugt mod dig i fremtiden.

Læs hele historien her ...