De samme teknokrater, der i første omgang bragte os kunstig intelligens, overvejer nu, hvorvidt en 'super-AI' pludselig kunne opstå, der ville ødelægge civilisationen. For et mere pålideligt svar, skal de måske spørge Alexa. ⁃ TN Editor
CEO for Allen Institute for AI, professor Oren Etzioni, udsendte en række potentielle advarselsskilte, der ville advare os om, at "superintelligens" var rundt om hjørnet.
Mennesker skal være klar til tegn på robotisk superintelligens, men bør have tid nok til at henvende sig til dem, har en top computerforsker advaret.
Oren Etzioni, administrerende direktør for Allen Institute for AI, skrev en nylig artikel med titlen: “Hvordan man ved, om kunstig intelligens er ved at ødelægge civilisationen. ”
Han skrev: ”Kunne vi vågne en morgen stum af, at der er opstået en supermagtig AI med katastrofale konsekvenser?
”Bøger som Superintelligence af Nick Bostrom og Life 3.0 af Max Tegmark samt nyere artikler hævder, at ondskabsfuld superintelligens er en eksistentiel risiko for menneskeheden.
”Men man kan spekulere uendeligt. Det er bedre at stille et mere konkret, empirisk spørgsmål: Hvad vil advare os om, at superintelligens virkelig er rundt om hjørnet? ”
Han sammenlignede advarselsskilte med kanariefugle i kulminer, der blev brugt til at opdage kulilte, fordi de ville kollapse.
Prof Etzioni argumenterede for, at disse advarselsskilte kommer, når AI-programmer udvikler en ny kapacitet.
Han fortsatte til MIT Review: “Kunne den berømte Turing-test tjene som en kanariefugl? Testen, opfundet af Alan Turing i 1950, antyder, at AI på menneskeligt niveau opnås, når en person ikke kan skelne mellem at tale med et menneske og at tale med en computer.
”Det er en vigtig test, men det er ikke en kanariefugl; det er snarere tegnet på, at AI på menneskeligt niveau allerede er ankommet.
”Mange computerforskere mener, at hvis det øjeblik ankommer, vil superintelligens hurtigt følge. Vi har brug for flere milepæle. ”
Men han advarede om, at "automatisk formulering af indlæringsproblemer" ville være den første kanariefugl efterfulgt af selvkørende biler.
wpDiscuz
Hvad er "automatisk formulering af læringsproblemer"? Gik til linket, men webstedet ønsker information, som jeg ikke var villig til at give.