AI-Oprettet falske nyheder: Personaliseret, optimeret og endnu sværere at stoppe

Kunstig intelligens udnyttes til at skabe personlig propaganda, også kendt som falske nyheder, for at få dig til beslutninger, som du måske ikke ellers har taget. Det vil være næsten umuligt at fortælle forskellen mellem virkelige, ændrede virkelige og direkte falske historier. ⁃ TN Editor

Falske nyheder kan have allerede påvirket politik i USA, men det vil blive meget værre, advarer en AI-konsulent til CIA.

Sean Gourley, grundlægger og CEO af Primer, et firma, der bruger software til at udnytte datakilder og automatisk generere rapporter til CIA og andre klienter, fortalte en konference i San Francisco, at den næste generation af falske nyheder ville være langt mere sofistikerede takket være AI.

"Automatiseringen af ​​genereringen af ​​falske nyheder vil gøre det meget effektivt," fortalte Gourley publikum på EmTech Digital, arrangeret af MIT Technology Review.

Advarslen skal skabe bekymring hos Facebook. Det sociale netværk er involveret i en skandale efter at have undladt at forhindre falske nyheder, nogle af dem skabt af russiske agenter, i at nå ud til millioner af mennesker i månederne før præsidentvalget i 2016. For nylig blev virksomheden ramt af åbenbaringen om, at den lod Cambridge Analytica, et selskab bundet til Trump-præsidentkampagnen, minebrugernes personlige data.

I de seneste interviews foreslog Facebooks administrerende direktør, Mark Zuckerberg, at virksomheden ville bruge AI til at få øje på falske nyheder. Ifølge Gourley kunne AI også bruges i tjenesten for det modsatte mål.

Gourley bemærkede, at de falske nyheder, der hidtil er set, har været relativt enkle, bestående af rå, håndlavede historier, der blev sendt til sociale medier med regelmæssige mellemrum. Teknologi som Primers kunne let bruges til at generere overbevisende falske historier automatisk, sagde han, og det kunne betyde falske rapporter, der er skræddersyet til den enkeltes interesser og sympati og omhyggeligt testet, inden de frigives, for at maksimere deres indvirkning. ”Jeg kan generere en million historier, se, hvilke der får mest trækkraft, dobbelt ned på dem,” sagde Gourley.

Gourley tilføjede, at falske nyheder hidtil er blevet fodret ind på sociale medieplatforme som Facebook i det væsentlige tilfældigt. En mere sofistikeret forståelse af netværksdynamik såvel som de mekanismer, der bruges til at bedømme indholdets popularitet, kunne forstærke en posts effekt.

Læs hele historien her ...