Oren Etzioni

Super-AI kan opstå som Coronavirus for at ødelægge civilisationen

De samme Technokrater, der bragte os AI i første omgang, overvejer nu, om en 'super-AI' pludselig kunne opstå, der ville ødelægge civilisationen. For et mere pålideligt svar burde de måske spørge Alexa. ⁃ TN Editor

Administrerende direktør for Allen Institute for AI, professor Oren Etzioni, udstedte en række potentielle advarselsskilte, der ville advare os om ”super-intelligens” at være rundt om hjørnet.

Mennesker skal være klar til tegn på robotisk superintelligens, men bør have tid nok til at henvende sig til dem, har en top computerforsker advaret.

Oren Etzioni, administrerende direktør for Allen Institute for AI, skrev et nyligt papir med titlen: ”Hvordan kan man vide, om kunstig intelligens er ved at ødelægge civilisationen. ”

Han skrev: ”Kunne vi vågne op en morgenstum, som der opstod en supermægtig AI med katastrofale følger?

”Bøger som Superintelligence af Nick Bostrom og Life 3.0 af Max Tegmark samt nyere artikler argumenterer for, at ondskabsfuld superintelligens er en eksistentiel risiko for menneskeheden.

”Men man kan spekulere i det uendelige. Det er bedre at stille et mere konkret, empirisk spørgsmål: Hvad ville gøre os opmærksom på, at super-intelligens faktisk er rundt om hjørnet? ”

Han sammenlignede advarselsskilte med kanariefugle i kulminer, der blev brugt til at opdage kulilte, fordi de ville kollapse.

Prof Etzioni argumenterede for, at disse advarselsskilte kommer, når AI-programmer udvikler en ny kapacitet.

Han fortsatte med til MIT Review: ”Kunne den berømte Turing-test tjene som kanarie? Testen, der blev opfundet af Alan Turing i 1950, antyder, at AI på humant niveau opnås, når en person ikke kan skelne samtale med et menneske fra at tale med en computer.

”Det er en vigtig test, men det er ikke en kanarie; det er snarere tegnet på, at AI på menneskeligt niveau allerede er ankommet.

”Mange computerforskere mener, at hvis det øjeblik kommer, vil superintelligens hurtigt følge. Vi har brug for flere mellemliggende milepæle. ”

Men han advarede om, at den "automatiske formulering af indlæringsproblemer" ville være den første kanarie, efterfulgt af selvkørende biler.

Læs hele historien her ...