Joe Allen: Nedtælling til Gigadeath – Fra AI Arms Race til Artilect War

For sande troende vil kunstig intelligens uundgåeligt blive overmenneskelig. Ifølge deres myter er vi på drift i et gudløst kosmos. Så det er op til os at skabe digitale guddomme. Eller rettere sagt, det er op til nogle få tekniske nørder at skabe dem. Vi andre kan enten knæle foran deres alter eller blive skubbet ned i afgrunden.

Mens bots myldrer ind i vores liv, vokser spændingen mellem os og dem. Nogle dage føles det, som om vi skynder os mod en computerstyret racekrig mellem begyndende cyborgs og gamle mennesker. Efter for meget skærmtid – da mine synapser omarrangerer sig, så de passer til de data, der strømmer ind – er det ikke klart, hvilken underart jeg tilhører.

For ordens skyld er jeg mere agnostisk end sand troende. Teknikere giver alle mulige tomme løfter. De trives med at projicere mystiske kræfter. Alligevel ignorerer vi deres tekno-kulturelle revolution på egen risiko.

Teknologiske virksomheder har den reelle magt over informationskontrol. De fordrejer bogstaveligt talt den offentlige bevidsthed i stor skala. På den militære side har håndhævere evnen til at sprænge dig i luften fra den anden side af verden. Du kan måske håne, at amerikanske væbnede styrker har skabt flere transofficerer end cyborgsoldater. Men hvis du ikke kan sigte din AR-15 hurtigere, end deres drone kan finpudse, fniser du under en støvle. Kunstig intelligens styrker kun det fodfæste.

I 2018, US Defense Advanced Research Projects Agency annoncerede det "fokuserer sine investeringer på en tredje bølge af kunstig intelligens, der frembringer maskiner, der kan forstå og ræsonnere i kontekst." Direktøren for DARPA's Information Innovation Office, Brian Pierce, er vildt entusiastisk om en "ægte symbiose mellem Homo sapiens og den nye Machina sapiens."

En 2021 hvidt papir fra det britiske forsvarsministerium bekræfter: "Kernen i den fremtidige militære fordel vil være effektiv integration af mennesker, kunstig intelligens og robotteknologi i krigssystemer - menneske-maskine-hold - der udnytter evnerne hos mennesker og teknologier til at udkonkurrere vores modstandere. ”

Kina har lignende cyborg-ambitioner. Så gør Rusland   NATO. "Kunstig intelligens er fremtiden," erklærede Vladimir Putin berømt. "Den, der bliver lederen på denne sfære, vil blive verdens hersker."

Måske spilder generalerne penge på nørderkrigsførelse. Måske leger de bare med nyt legetøj.

Jeg ville ikke regne med det.

Allerede nu ser vi smalle AI'er overgå menneskelig mønstergenkendelse i de specifikke opgaver, de er designet til at udføre - proteinmodellering, radiologisk analyse, slagmarksovervågning og målopsamling, for at nævne nogle få. Eksempelvis leverer den amerikanske forsvarsentreprenør Palantir frit deres AI til Ukraine. Det er en væsentlig grund til, at de har holdt ud så længe mod de større russiske styrker.

"Kraften i avancerede algoritmiske krigsførelsessystemer er nu så stor, at det svarer til at have taktiske atomvåben mod en modstander med kun konventionelle," Palantir CEO Alex Karp fortalt og Washington Post. "Den brede offentlighed har en tendens til at undervurdere dette. Det gør vores modstandere ikke længere."

I hænderne på elite apex-rovdyr er disse digitale værktøjer dødsens alvorlige. Når ledere ikke implementerer teknologi mod rivaler, vender de det mod deres egne borgere. Husk at Clearview AI ansigtsgenkendelse aktiveret politiet for at opspore demonstranter den 6. januar.

Teknologi er magt. har altid været.

Ikke alle er dog bekymrede. Tvivlere håner forestillingen om "intelligente" maskiner. "AI eksisterer ikke," siger de. "Det er bare en algoritme." "Affald ind, skrald ud." Typisk er de tidligere programmører, der stadig lever i 90'erne. De gentager "skrald ind, skrald ud" så ofte, at det er som om de var programmeret til at sige det.

Disse fyre har en pointe. En AI er kun så god som designet af dens neurale netværk og de data, den er trænet på. Det er ikke ulig mennesker på den måde. Men når det er godt, er det skræmmende godt. Hvis en solid AI for eksempel er trænet til at genkende kontoudtog, kan den grave gennem bjerge af affald og finde en på få sekunder – som en dumpster-dykker regnmand ud for at stjæle din identitet.

Den AI, der rystede mig vågen, var AlphaZero, udviklet af Googles DeepMind i 2017. Programmeret med kun grundlæggende spilleregler og "ønsket" om at vinde, dette neurale netværk lærte sig selv at spille Go, skak og en række videospil på få timer. Beherskelsen af ​​Go er særlig vigtig. I årtier insisterede skeptikere på, at ingen computer ville forstå dette gamle kinesiske spil. Gos kompleksitet, hævdede de, kræver dyb intuition, som kun mennesker besidder. Det viste sig, at det var ønsketænkning.

AlphaZero opfinder ligesom sin forgænger AlphaGo effektive strategier, som intet menneske nogensinde har tænkt på. Og mest alarmerende, disse digitale sind knuse menneskelige mestre i deres egne spil. Hvis folk havde en forbandet fornuft, ville de have trukket stikket lige dengang. På det hele. Men du ved, hvad de siger - "Du kan ikke stoppe fremskridt."

Næste skridt er at kombinere disse indsnævrede kognitive evner til en enkelt "kunstig hjerne". Det her kunstig generel intelligens (AGI) ville være fleksibel nok til at flytte fra et domæne til det næste eller indføre forskellige moduler samtidigt for at løse problemer i den virkelige verden.

I teorien kunne man lime enhver kombination af evner sammen – ansigtsgenkendelse, naturlig sprogbehandling, social modellering, robotstyringssystemer, æstetiske algoritmer – hvad som helst, du måtte ønske i en robothjerne. Maskinen ville sandsynligvis overgå mennesker på alle disse områder. Men uanset hvilken kombination du fandt på, ville det ikke være helt menneskeligt. Det ville heller ikke dele vores værdier eller erfaring med verden. Det ville være et blindt, deformeret barn ætset i silicium, men med fremragende kognitiv kraft - meget ligesom den gnostiske demiurge.

For transhumanister vil fremkomsten af ​​en selvforbedrende AGI markere et "enestående øjeblik i historien" - Singularity. Derfra er gamle mennesker bare med på turen. Hvis vi er heldige.

Det er i hvert fald drømmen. Og store virksomheder som DeepMind og OpenAI – såvel som deres kinesiske kolleger i Baidu og Tencent – ​​er Racing at gøre en eller anden version til virkelighed. Deres administrerende direktører holder løftet om en digital utopi eller en tilnærmelse. De foretrækker, at du bare slapper af og ikke stiller spørgsmål.

Der er dog et par alarmister, der siger, at løbsk AI kan betyde udslettelse af den menneskelige race. Fordi vi er jordemødre for AGI, råder de, er vores centrale opgave at lære dette spæde computergud at være godgørende – at tilpasse dets værdier til vores. Ellers bliver vi slaver eller dør. De kalder dette "AI-justeringsproblemet." Da forskellige fraktioner kæmper om, hvor "vågen" eller "baseret" ChatGPT må være, ser det ret dystert ud.

Mærkeligt nok kommer nogle af de højeste alarmopkald fra dem, der arbejder på AGI. De omfatter Sam Altman og Elon Musk (OpenAI), Demis Hassabis (DeepMind) og opererer fra Kina, Ben Goertzel (SingularityNET) og teknokalypsens gale profet, Hugo de Garis (Xiamen University).

Oxford-transhumanisten Nick Bostrom, forfatter til bogen fra 2014, forklarede betydningen af ​​en Tesla-kørsel TED publikum:

Potentialet for superintelligens ligger i dvale i stoffet, ligesom atomets kraft har ligget i dvale gennem menneskehedens historie, og tålmodigt ventet der – indtil 1945. I dette århundrede kan videnskabsmænd lære at vække kraften i kunstig intelligens. Og jeg tror, ​​at vi så kan se en efterretningseksplosion.

Uanset de eksistentielle risici, hævder disse mænd, vil enhver nation, der undlader at omfavne AI, falde bagud for dem, der gør. Den samme dynamik gælder for individer og organisationer, der konkurrerer mod hinanden inden for nationer. I et digitalt økosystem er det overlevelse af de stærkeste cyborgs – med AI holdt frem som en mytisk Ring of Power.

Af alle de fremtider, der er projekteret af transhumanister, den, Hugo de Garis tryllede frem, er den mest grufulde. Det er også det mest ærlige. Mange i Silicon Valley tror, ​​at overmenneskelig maskinintelligens vil føre til "radikal overflod" og grænseløs viden om universet. Som fysiker og robotbygger tror de Garis, at alle disse ting vil ske.

Men han profeterer også om, at skabe "artilekter" - en forkortelse for "kunstige intellekter"; dybest set AGI—vil sandsynligvis føre til menneskehedens ødelæggelse. Måske vil disse digitale guder ikke bruge os og knuse os som insekter. Eller lige så sandsynligt, hævder de Garis, vil en "gigadeath"-begivenhed forekomme, når mennesker kæmper om, hvorvidt de skal skabe dem i første omgang. Det betyder, at milliarder dør lynhurtigt.

"Spørgsmålet, der vil dominere 21^st århundredes globale politik vil være: 'Hvem eller hvad skulle være den dominerende art på planeten, artilekter eller mennesker?'” Dette får ham til at formulere et foruroligende, om end forvirrende formuleret slogan: ”Bygger vi guder, eller bygger vi vores potentielle udryddere?”

De Garis opfinder skøre nye ord som en uregerlig Scrabble-spiller og udforsker denne konflikt i sin bog fra 2005. Han forventer, at den dukker op inden for et par generationer. "Denne krig vil bruge det mest destruktive våben, der nogensinde er udtænkt, baseret på slutningen af ​​21^st århundredes videnskab og teknologi."

Vi taler om super-atomvåben og AI-designede biovåben – en mørk horisont, der kravler med robothelvedeshunde og nanobot-sværme.

Artilektkrigen vil blive udkæmpet mellem "Terranerne", som ville dræbe for at bevare den organiske menneskehed, og "kosmisterne", hvis religiøse hengivenhed til at bygge artilekter er så intens, at de vil være villige til at dø for denne spådomskunst. Faktisk vil de være villige til at se alle dø for det:

I 20^th århundrede udslettede nazisterne 20 millioner russere, japanerne myrdede 20 millioner kinesere, Stalin dræbte 30 millioner i sine udrensninger, og Mao sultede 50 millioner kinesiske bønder. Disse er blandt de største forbrydelser i historien, men alligevel blegner de i forhold til tragediens størrelse, hvis artilekterne nogensinde beslutter sig for at udslette menneskeheden. Tragedien ville være total i den forstand, at der ikke længere ville være nogen mennesker tilbage til at sørge over artens forsvinden.

Som de Garis bemærker, er det forbløffende, at ethvert menneske ville forfølge et sådant mål ved at vide, at milliarder kunne blive slagtet. Men for kosmister er skabelsen af ​​overmenneskelige maskiner en religiøs søgen hinsides godt og ondt. I traditionen med gale videnskabsmænd fyldt med skyldfølelse, sætter de Garis sig selv i sidstnævnte lejr, gigadeath være forbandet:

Mit ultimative mål er at se menneskeheden, eller i det mindste en del af menneskeheden, blive Cosmist og at gøre det med succes ved at bygge virkelig gudelignende artilekter, der tårner sig op over vores ringe menneskelige intellektuelle og andre evner.

Et nøglebegreb i Artilektkrigen er "artsdominans". Efter at have skabt kunstigt liv, konfronterer menneskeheden en ny evolutionær konkurrent. Efterhånden som nogle mennesker smelter sammen med det digitale liv som bændelorme i en meka-tarm, vil menneskeheden opdeles i underarter - bot-sugende cyborger og "sølle" mennesker.

Sammen med arter kommer konkurrence. Med udgangspunkt i politisk og evolutionær teori siger de Garis, at der kun er så meget plads oven på lortbunken. Fordi lighed ikke eksisterer i naturen, er artsdominans uundgåelig. Med menneskets historie som vores guide betyder det vold.

Vil toppladsen blive taget af computere med høj IQ, der kredser om planeten og er "hurtigere og bedre end mennesker af faktorer på billioner af billioner"?

Eller vil det blive besat af kosmisterne, der bygger og installerer disse maskiner?

Eller vil Terrans dræbe denne transhumane kult og vende tilbage til at banke på trommer i skoven?

Det virker lige så sandsynligt, at vi vil snuble ind i en atomkrig med Rusland eller Kina, hvilket sparer os helt for denne artilektkrig. Der er masser af gigadeath at gå rundt uden en Super Computer God.

Men hvis det lykkes os at undgå at kerne hinanden i rumstøv, kan det være, at supermagts rivalisering vil drive teknologisk udvikling – især militærteknologi – hen imod noget, der ligner de Garis' vision. Tænk på det som en Singularitet med et brag.

I virkeligheden er vigtigheden af Hugo de Garis' mareridt kan være dets indflydelse på kinesisk teknologikultur. Fra 2006 til 2010 rundede han sin professionelle karriere i Kina - først på Wuhan University, derefter drev han Artificial Brain Lab på Xiamen University. Indtil pandemien løb hans nære kollega Ben Goertzel SingularityNET ud af Hong Kong. Dette AGI-projekt fungerede i partnerskab med Hanson Robotics— Stadig baseret i Hong Kong — hvis robot Sophia er ophøjet som en transhuman gudinde på verdensscenen.

Omfanget af teknologioverførslen til det kinesiske kommunistparti er ukendt. Men det er rimeligt at antage, at uanset deres hensigter, har de Garis og Goertzel hjulpet i Kinas mål om at overgå USA inden for kunstig intelligens. Denne ambition omfatter at forbinde menneskelige hjerner til AI og skabe kunstig generel intelligens – med et øje mod militære applikationer.

November 2021 bind af PRISM, udgivet af National Defense University i DC, indeholder et øjenåbnende forskningspapir, "Kinas 'New Generation' AI-Brain Project." Der er ingen tvivl om, at den transhumane impuls løber gennem den kinesiske sjæl. Forfatterne citerer en topforsker fra KKP, Xu Bo, der taler til Ministeriet for Videnskab og Teknologis officielle avis:

Som generalsekretær Xi Jinping påpegede i politbureauets kollektive undersøgelse, skal kunstig intelligens-forskning udforske "ubemandede områder." I områderne sværm-intelligens, menneske-maskine hybrid intelligens og autonom intelligens er der store ubemandede områder, der skal udforskes. … Vi mener, at autonom evolution er en bro fra svag kunstig intelligens til generel kunstig intelligens.

Eller, som dekanen for Beijing Academy of Artificial Intelligence, Huang Tiejun, fortalte en Future of Life-konference:

Vores menneskelige race er kun på ét stadie. Hvorfor stoppe? Mennesker udvikler sig for langsomt. Det er umuligt for mennesker at sammenligne med maskinbaseret superintelligens. Det vil ske før eller siden, så hvorfor vente? Selv fra perspektivet af menneskelig centrisme eller menneskelig exceptionalisme, er superintelligens nødvendig for at klare de store udfordringer, vi ikke kan finde ud af. Derfor støtter jeg ideen.

Ved at oversætte udtalelser fra hele det kinesiske teknologiske etablissement observerer forfatterne af PRISM-avisen tørt: "Andre sådanne prognoser er almindelige."

Fremtiden ser sort ud, men mulighederne er stadig åbne. Igen, jeg er et sted mellem tvivlerne og de sande troende – og jeg indrømmer, at det er en lunken hæk.

Ligesom smartphones eller internettet vil kunstig intelligens aldrig gå ud som annonceret. Teknisk evolution er en saga om uventede fejl og utilsigtede konsekvenser. Det er fyldt med pumpede aktier, overhypede regeringskontrakter og overfinansierede akademiske projekter.

Der er ingen flyvende biler (endnu). Der er ingen kold fusion (endnu). Der er ingen mind control nanobots (ikke?).

Alligevel er det kun et fjols, der nægter at se, at smartphones og internettet har ødelagt organisk kultur. Det samme gælder for masseovervågning og dronekrigsførelse. Uanset hvilken form AI i sidste ende tager, er jeg overbevist om, at det vil have lignende virkninger, hvis ikke værre.

Det kan være, at AI-chatbots og virtuelle sexslaver vil skrælle nogle mennesker fra den virkelige virkelighed, hvilket gør dem mere vanvittige, end de allerede er. Eller det kan være, at en hær af AI-forstærkede, genetisk modificerede, hjernechippede cyborgs vil falde ned på skyer af nanobots for at føre en racekrig mod det, der er tilbage af gamle mennesker.

Det vil tiden vise. Hold din stanniol stram og din pudder tør. Og sluk for guds skyld din smartphone. Det er sådan, de får dig.

Læs hele historien her ...