Skabere siger ny AI-tekstgenerator for farlig til at frigive

george orwellWikimedia Commons
Del denne historie!
image_pdfimage_print
Selvom det er prisværdigt, at skaberne ser farlige resultater af deres AI og er villige til at tilbageholde den i afventning af yderligere analyse, er det bare et spørgsmål om tid, før den glider ud. Der bruges ingen menneskelig intelligens, når man genererer kunstige historier. ⁃ TN Editor

Skaberne af et revolutionerende AI-system, der kan skrive nyheder og fiktion - kaldet ”dybder for tekst” - har taget det usædvanlige skridt at ikke frigive deres forskning offentligt af frygt for potentielt misbrug.

OpenAI, et nonprofit-forskningsfirma, der er støttet af Elon Musk, Reid Hoffman, Sam Altman og andre, siger, at dens nye AI-model, kaldet GPT2, er så god, og risikoen for ondsindet brug så høj, at det bryder fra sin normale praksis med at frigive det fulde forskning til offentligheden for at give mere tid til at diskutere konsekvenserne af det teknologiske gennembrud.

I sin kerne er GPT2 en tekstgenerator. AI-systemet indføres tekst, alt fra et par ord til en hel side og bliver bedt om at skrive de næste par sætninger baseret på dens forudsigelser om, hvad der skal komme næste. Systemet skubber grænserne for hvad der blev antaget mulige, både med hensyn til kvaliteten af ​​output og den store række mulige anvendelser.

Når det bruges til blot at generere ny tekst, er GPT2 i stand til at skrive plausible passager, der matcher det, der er givet i både stil og emne. Det viser sjældent nogen af ​​de vedligeholdelser, der markerer tidligere AI-systemer, såsom at glemme, hvad det skriver om midtvejs gennem et afsnit, eller mangle syntaks af lange sætninger.

Giv den åbningslinjen for George Orwells Nineteen Eighty Four - ”Det var en lys kold dag i april, og urene slog tretten” - og systemet genkender den vagt futuristiske tone og den romanistiske stil og fortsætter med:

”Jeg var i min bil på vej til et nyt job i Seattle. Jeg satte gas ind, satte nøglen i, og så lod jeg den køre. Jeg forestilte mig bare, hvordan dagen ville se ud. Hundrede år fra nu. I 2045 var jeg lærer på en skole i en fattig del af det landlige Kina. Jeg startede med kinesisk historie og videnskabshistorie. ”

Indfør det de første par afsnit af en Guardian-historie om Brexit, og dens output er plausibel avisprosa, fyldt med "citater" fra Jeremy Corbyn, omtaler af den irske grænse og svar fra premierministerens talsmand.

Et sådant, helt kunstigt, afsnit lyder: ”Bedt om at afklare beretningerne sagde en talsmand for May:” premierministeren har gjort det helt klart, at hun agter at forlade EU så hurtigt som muligt, og det vil være under hendes forhandlingsmandat som bekræftet i dronningens tale i sidste uge. '”

Læs hele historien her ...

Tilmeld
Underretning af
gæst
0 Kommentarer
Inline feedbacks
Se alle kommentarer