TN Bemærk: Dr. Eden har måske set for mange science fiction-film, men hans bio er imponerende. Han spørger nedenfor: "Ville det overmenneskelige tidsalder indvarsle en æra, hvor forestillingen om at være menneske er gået?" TN udsender sådanne historier for at lade seeren forstå, at mange fremtrædende forskere og ingeniører virkelig tror på disse ting; eller de har netop sprunget skinnerne.
Fritankende AI-robotter kan ende med at ødelægge menneskeheden eller endda helt ændre, hvad det betyder at være mennesker, hvis vi lader dem tænke selv, har en videnskabsmand advaret.
Dr. Amnon Eden sagde, at der skal gøres mere for at se på risikoen ved at fortsætte mod en AI-verden.
Han advarede om, at vi var ved at komme tæt på punktet med ingen tilbagevenden i form af AI uden en ordentlig forståelse af konsekvenserne.
Dr. Eden sagde: ”Det nye år skal se denne dårligt informerede kontrovers erstattet af en bedre informeret analyse af den potentielle indvirkning af AI og dens applikationer.
”I 2016 skal ekspertrisikoanalyse få en langt større rolle i politik og beslutningstagere, regeringer og virksomheder.”
Dr Eden er rektor for Sapience-projektet, en tænketank, der er dannet for at se på den potentielle forstyrrende virkning af kunstig intelligens AI.
Science fiction har jævnligt undersøgt, om robotter kunne ødelægge menneskeheden, mest berømt Terminator-filmene med Arnold Schwarzenegger.
Dr. Edens holdning kommer efter Oxford Professor Nick Bostrom sagde, at super intelligens AI muligvis kan ”komme op til et punkt, hvor dets mål ikke er kompatible med menneskers”.
Han hævdede, at i modsætning til klimaforandringer og genteknologi, hvor han sagde, at regeringer over hele kloden lægger mekanismer til for at minimere risikoen for det, der er, “gøres der intet for at kontrollere udviklingen af AI”.
Hr. Bostrom sagde: "Der er et politisk vakuum, der skal udfyldes, hvis dette uundgåelige fremskridt skal bruges klogt."
Da han diskuterede de potentielle risici, sagde han: ”En computer er dybest set en kasse, og hvad der ligger i den, er alt, hvad den kan bruge, så medmindre vi fortæller den, at folk i kolde lande kan dø, hvis de ikke har nogen varme, og det er dårligt vil det vide det? Hvordan kan vi definere, hvad 'godt' eller 'venligt' faktisk er?
”Resultatet af singulariteten er måske ikke, at AI er ondsindet, men det kan godt være, at den ikke er i stand til at 'tænke uden for sin boks' og ikke har nogen opfattelse af menneskelig moral.
”Den anden AI-bekymring er en, som Hollywood har brugt i årevis som tema, og det er fremkomsten af 'Terminator'-væsenet og kampen for at overleve mod en hær af fjendtlige formskiftende robotter, der drives af en selvbevidst AI kaldte Skynet. ”
wpDiscuz