Teknokrati lover videnskabelig diktatur i sidste ende. Hvis IBM nu indrømmer, at deres ingeniører kan gøre det, kan du være sikker på, at amerikanske efterretningsbureauer har gjort det i nogen tid. Målrettet hacking er muligvis den mest ondsindede og destruktive type overvågning i historien. I hænderne på useriøse Intel er alle detaljer lagt foran dem. ⁃ TN Editor
Mareridtsscenariet for computersikkerhed - programmer til kunstig intelligens, der kan lære at undgå selv de bedste forsvar - er muligvis allerede ankommet.
Denne advarsel fra sikkerhedsforskere er drevet hjem af et team fra IBM Corp., der har brugt den kunstige intelligens-teknik, kendt som maskinlæring, til at opbygge hacking-programmer, der kunne glide forbi defensiv foranstaltning ovenfra. Gruppen afslører detaljer om sit eksperiment på sikkerhedskonferencen Black Hat i Las Vegas onsdag.
Avancerede forsvar er generelt afhængige af at undersøge, hvad angrebssoftwaren gør, snarere end den mere almindelige teknik til analyse af softwarekode for faretegn. Men den nye genre af AI-drevne programmer kan trænes til at forblive sovende, indtil de når et meget specifikt mål, hvilket gør dem usædvanligt svære at stoppe.
Ingen har endnu pralet af at fange nogen ondsindet software, der klart er afhængig af maskinlæring eller andre varianter af kunstig intelligens, men det kan bare skyldes, at angrebsprogrammerne er for gode til at blive fanget.
Forskere siger, at det i bedste fald kun er et spørgsmål om tid. Gratis kunstig intelligens-byggesten til træningsprogrammer er let tilgængelige fra Alphabet Inc's Google og andre, og ideerne fungerer alt for godt i praksis.
”Jeg tror absolut, at vi skal derhen,” sagde Jon DiMaggio, en senior trusselsanalytiker hos cybersikkerhedsfirmaet Symantec Corp. ”Det vil gøre det meget sværere at opdage.”
De mest avancerede nationstats-hackere har allerede vist, at de kan bygge angrebsprogrammer, der kun aktiveres, når de har nået et mål. Det bedst kendte eksempel er Stuxnet, der blev udsendt af amerikanske og israelske efterretningsbureauer mod en anrikningsanlæg med uran i Iran.
IBM-indsatsen ved navn DeepLocker viste, at en lignende præcisionsniveau kan være tilgængelig for dem med langt færre ressourcer end en national regering.
I en demonstration ved hjælp af offentligt tilgængelige fotos af et eksempelmål brugte teamet en hacket version af videokonferencesoftware, der kun svingede i aktion, når det registrerede et måls ansigt.
”Vi har en masse grund til at tro, at dette er den næste store ting,” sagde IBM-leder Marc Ph. Stoecklin. "Dette er muligvis allerede sket, og vi vil se det to eller tre år fra nu."
wpDiscuz