AI-forskere samles for at tegne løsninger til dommedags-scenarier

Wikipedia Commons
Del denne historie!

Teknokrater har skabt et monster, som de nu er klar over at kunne dreje og ødelægge deres skabere; således oprettes 'krigsspil' for at lære at besejre det - kunstig intelligens. Dette er et andet eksempel på et forsøg på at 'redde verden' er blevet til et 'ødelægge verden' -scenarie.   TN Editor

Boostere af kunstig intelligens forudsiger en modig ny verden af ​​flyvende biler og kræftkur. Modstandere bekymrer sig om en fremtid, hvor mennesker er slaver af en ond race af robotoverherrer. Veteran AI-videnskabsmand Eric Horvitz og Doomsday Clock-guruen Lawrence Krauss, der søgte en mellemvej, samlede en gruppe eksperter i Arizona-ørkenen for at diskutere det værste, der muligvis kunne ske - og hvordan man kunne stoppe det.

Deres workshop fandt sted i sidste weekend på Arizona State University med finansiering fra Tesla Inc. medstifter Elon Musk og Skype medstifter Jaan Tallinn. Officielt døbt "Envisioning and Addressing Adverse AI Outcomes" var det en slags AI-dommedagsspil, der organiserede omkring 40 forskere, cybersikkerhedseksperter og politikvinder i grupper af angribere - det røde hold - og forsvarere - blåt hold - der spillede ud AI -borte-meget-forkerte scenarier lige fra aktiemarkedsmanipulation til global krigsførelse.

Horvitz er optimistisk - en god ting, fordi maskinens intelligens er hans livs arbejde - men nogle andre, mere dystopisk-sindede tilhængere af projektet syntes at finde hans udsigter for positive, da planerne for denne begivenhed startede for omkring to år siden, sagde Krauss, en teoretisk teori. fysiker, der leder ASUs Origins Project, det program, der kører workshoppen. Alligevel sagde Horvitz, at for at disse teknologier skal komme videre med succes og for at opnå bred offentlighedens tillid, skal alle bekymringer lufttages fuldt ud og adresseres.

”Der er et enormt potentiale for AI til at transformere så mange aspekter af vores samfund på så mange måder. Samtidig er der uslebne kanter og potentielle ulemper, som enhver teknologi, ”sagde Horvitz, administrerende direktør for Microsofts Research Lab i Redmond, Washington. "For at maksimere gevinsten fra opadgående side er vi også nødt til at tænke igennem mulige resultater mere detaljeret end vi har før og tænke på, hvordan vi vil håndtere dem."

Deltagerne fik "hjemmearbejde" til at indsende bidrag til worst-case scenarier. De skulle være realistiske - baseret på nuværende teknologier eller dem, der ser ud til at være mulige - og fem til 25 år i fremtiden. Deltagerne med de "vindende" mareridt blev valgt til at lede paneler, som indeholdt omkring fire eksperter på hvert af de to hold for at diskutere angrebet og hvordan man kunne forhindre det.

Læs hele historien her ...

Tilmeld
Underretning af
gæst

0 Kommentarer
Inline feedbacks
Se alle kommentarer