Teknokrater, der kun bygger, fordi de kan, skaber i sidste ende mange flere problemer, end de i første omgang løser. At øge kompleksiteten resulterer altid i 'systemoverbelastning', hvor det hele drejer sig ude af kontrol. ⁃ TN Editor
Det, der adskiller mennesker fra maskiner, er den hastighed, hvormed vi kan lære af vores omgivelser.
Men forskere har med succes trænet computere til at bruge kunstig intelligens til at lære af erfaringerne - og en dag kunne de være smartere end deres skabere.
Nu har videnskabsmænd indrømmet, at de allerede er forvirrede af de mekaniske hjerner, de har bygget, hvilket øger udsigten til, at vi helt kunne miste kontrollen over dem.
Computere udfører allerede utrolige bragder - såsom at køre biler og forudsige sygdomme - men deres producenter siger, at de ikke helt har kontrol over deres kreationer.
Dette kan have katastrofale følger for civilisationen, har tech-eksperter advaret.
Tag den underlige førerløse bil, der optrådte på gaderne i New Jersey, USA, sidste år.
Det adskiller sig fra Google, Tesla eller Ubers autonome køretøjer, der følger reglerne, der er sat af tech-udviklere til at reagere på scenarier, mens de er på farten.
Denne bil kunne tage sine egne beslutninger efter at have set hvordan mennesker lærte at køre.
Og dets skabere, forskere hos chipfremstillingsfirmaet Nvidia (som forsyner nogle af de største bilproducenter med supercomputerchips), sagde at de ikke var 100 procent sikre på, hvordan det gjorde det, MIT Technology Review rapporteret.
Dets mystiske sind kunne være et tegn på mørke tider, som skeptikere frygter.
Bilens underliggende teknologi, kaldet ”dyb læring”, er et kraftfuldt værktøj til at løse problemer.
Det hjælper os med at mærke vores venner på Facebook, giver assistance på vores smartphones ved hjælp af Siri, Cortana eller Google.
Dyb læring har hjulpet computere med at blive bedre til at genkende objekter end en person.
Militæret hælder millioner ind i teknologien, så det kan bruges til at styre skibe, kontrollere droner og ødelægge mål.
Og der er håb, at det vil være i stand til at diagnosticere dødbringende sygdomme, gøre erhvervsdrivende til milliardærer ved at læse aktiemarkedet og fuldstændigt transformere den verden, vi lever i.
Men hvis vi ikke sørger for, at skabere har en fuld forståelse af, hvordan det fungerer, er vi i dybe problemer, hævder forskere.
Hvis de ikke kan finde ud af, hvordan algoritmerne (formlerne, der holder computere, der udfører de opgaver, vi beder dem om at udføre) fungerer, kan de ikke forudsige, hvornår de fejler.
Tommi Jaakkola, en professor ved MIT, der arbejder med applikationer af maskinlæring advarer: "Hvis du havde et meget lille neuralt netværk [dyb læringsalgoritme], kan du muligvis forstå det."
”Men når den først bliver meget stor, og den har tusinder af enheder pr. Lag og måske hundreder af lag, så bliver den ganske uforståelig.”
Det betyder, at en førerløs bil, som Nvidia's, kunne svæve forreste ind i et træ, og vi ville ikke have nogen idé om, hvorfor den besluttede at gøre det.
wpDiscuz