Newspeak AI: Helt falske nyheder kunne ødelægge internettet

Et kunstigt intelligenssystem, der genererer realistiske historier, digte og artikler, er blevet opdateret, hvor nogle hævder, at det nu er næsten lige så godt som en menneskelig forfatter.

Tekstgeneratoren, bygget af forskningsfirmaet OpenAI, blev oprindeligt betragtet som "for farligt" til at offentliggøre på grund af potentialet for misbrug.

Men nu er en ny, mere kraftfuld version af systemet - der kan bruges til at skabe falske nyheder eller voldelig spam på sociale medier - blevet frigivet.

BBC besluttede sammen med nogle AI-eksperter at prøve det.

Modellen, kaldet GPT-2, blev trænet på et datasæt på otte millioner websider og er i stand til at tilpasse sig stilen og indholdet i den indledende tekst, der er givet til den.

Det kan afslutte et Shakespeare-digt såvel som at skrive artikler og betegnelser.

På det tidspunkt sagde firmaet: ”På grund af vores bekymringer over ondsindede applikationer af teknologien frigiver vi ikke den uddannede model. Som et eksperiment i ansvarlig videregivelse frigiver vi i stedet en meget mindre model, som forskere kan eksperimentere med. ”

Som et resultat havde den frigivne version langt færre parametre - sætninger og sætninger - end brugt under træning.

Denne måned besluttede OpenAI at udvide parametrene og tilbyde en meget bredere database med træningsdata.

Teknisk nyhedssted The Next Web sagde om opdateringen: "Denne fungerer næsten godt nok til at blive brugt som en generel kunstig intelligens til tekstgenerering - næsten."

Artikelforfatter Tristan Greene tilføjede: Jeg er bange for GPT-2, fordi den repræsenterer den slags teknologi, som onde mennesker vil bruge til at manipulere befolkningen - og efter min mening gør det det farligere end nogen pistol. ”

BBC besluttede at teste systemet ved at indtaste de første par sætninger i en nyere historie, passende en om AI.

Vi begyndte med den første sætning i den virkelige historie:

Den kinesiske søgemaskine Sogou skaber looklikes for kunstig intelligens for at læse populære romaner i forfatterstemmer.

Her er hvad tekstgeneratoren kom med for at fuldføre det:

Ifølge forskerne er denne metode til læsning ikke kun hjernebarnet til Amazon Kindle-brugere. Brugere af Android-enheder er også et bemærkelsesværdigt marked for falsk læsning. Der er flere teorier, der kan forklare dette.

For det første er enheden i en brugers hånd forskellig fra den tablet eller computer, de læser på. For det andet kan den enhed, der bruges til at få adgang til internettet, blive manipuleret på en eller anden måde. En tredje grund er, at brugeren bare kan kopiere og indsætte indhold direkte i deres virtuelle tegn.

En anden forklaring er dog, at enheden slet ikke har stemmegenkendelsesfunktioner. Hvis dette er tilfældet, er stemmegenkendelse mere avanceret end Googles oversættelsesmaskine. Som sådan bliver disse brugere narret til at tro, at de læser fra en rigtig forfatter - bogen er lavet til at lyde autentisk, så snart de prøver og læser.

Nu Klik her for at læse den virkelige historie til sammenligning.

Noel Sharkey, professor i datalogi ved University of Sheffield, gennemførte sine egne test på generatoren og var ikke for imponeret.

Mand går ind i en bar

”Hvis softwaren fungerede som tilsigtet af Open AI, ville det være et meget nyttigt værktøj til let at generere falske nyheder og clickbait-spam. Heldigvis genererer den i sin nuværende form usammenhængende og latterlig tekst med ringe relation til input 'overskrifter', ”sagde han.

Han tilføjede: ”Jeg testede softwaren med adskillige overskrifter og fik latterlige resultater. For eksempel, for 'Kalkuner hader jul', fik jeg, at 'Tyrkiet er den eneste nation i verden, der ikke fejrer jul' og et antal ikke-relaterede sætninger.

”For 'Boris Johnson elsker backstop', det producerede usammenhængende pladder og nogle ting om AI og sport. Da jeg indtog udsagnet om, at 'Boris Johnson hader backstop', fik jeg en mere sammenhængende historie, der ser ud til at være trukket ud af en Google-søgning. "

Dave Coplin, grundlægger af AI-konsulentvirksomheden Envisioners, spillede også med systemet og indtastede den første linje i en klassisk vittighed: En mand går ind i en bar ...

Forslaget fra AI var ikke, hvad han forventede: “... Og bestilte to halvliter øl og to skot. Da han forsøgte at betale regningen, blev han konfronteret med to mænd - hvoraf den ene råbte "Dette er for Syrien". Manden blev derefter efterladt blødende og stukket i halsen ”.

Denne "overvældende dystopiske refleksion af vores samfund" var en lektion i, hvordan ethvert AI-system vil afspejle den bias, der findes i træningsdata, sagde han.

”Fra mine korte eksperimenter med modellen er det ret klart, at en stor del af dataene er blevet trænet af internetnyheder,” sagde han.

Læs hele historien her ...