ChatGPT kan have irreversible konsekvenser for læring og beslutningstagning

Menneskehedens moderne bane er blevet defineret af flere bøjningspunkter. Opfindelsen af ​​blandt andet elektricitet, elpære, telegrafsystemet, computer og internettet signalerede nye irreversible milepæle i vores modus vivendi. Den nylige introduktion af ChatGPT kan dog vise sig at være mere end et vendepunkt. Det kan være en permanent forstyrrelse af vores livsstil; dens bloopers   Wokist raserianfald uanset.

ChatGPT er nu den hurtigst voksende forbrugerapp i historien. Inden for to måneder efter lanceringen i november 2022 lykkedes det ChatGPT at samle mere end 100 millioner brugere. Dens udvikler OpenAI, der begyndte med 375 ansatte og tynde indtægter, er nu vurderet til $ 30 milliarder og tæller.

Hvordan virker det? I store træk samler ChatGPT data fra onlinekilder og syntetiserer svar på en forespørgsel inden for sekunder. Det er i øjeblikket den mest alsidige af en stald af nye kunstig intelligens-drevne store sprogmodeller. Den kan komponere noder, skrive softwarekoder, løse matematiske ligninger, skrive romaner, essays og afhandlinger, blandt en lang række andre opgaver. Det kan bruges af videnskabsmænd til at oversætte deres originale værker – skrevet på et modersmål – til engelsk. Efterhånden som AI-værktøjer som ChatGPT udvikler sig, kan de erstatte menneskelig aktivitet over et bredt, men uoverskueligt spektrum. Hundredvis af millioner job kan være på spil.

Dens mest umiddelbare virkning vil dog være inden for menneskelig læring og beslutningstagning.

Menneskelig læring

Menneskelig læring er en livslang proces formet af utallige faktorer. Disse omfatter (men er ikke begrænset til) erfaring, instinkt, interaktioner, fejl (og rettelser), introspektion, personlig angst, dristighed, vejledning, tekstdata og individuel psyke. De fleste af disse forudsætninger er fremmede for ChatGPT, og dette inkluderer "no pain no gain"-aksiomet for menneskelig læring og udvikling.

AI-værktøjer er heller ikke påvirket af menneskelige begrænsninger såsom tidsbegrænsninger, træthed, "fridage" og lidelser. Over tid har disse begrænsninger fået mennesker til at uddelegere deres eksistentielle krav om at tænke og lære til maskiner. Ubønnhørlig digitalisering har også gjort os dygtige til at vide, hvor eller hvordan man søger information i stedet for lære at gemme den samme information. Hvor mange af os husker telefonnumrene på vores familie, kolleger og venner i disse dage? En digital krykke er nu et must-have til at navigere på veje (f.eks. Waze, Google Maps), madlavning (videokanaler), reparationsapparater (gør-det-selv-kanaler) og en lang række andre verdslige aktiviteter. Vores daglige opgaver bliver hurtigt flere mekanistisk, fortrænger vores evne til at skabe noget nyt eller spilskiftende. Vi bliver udvidelser af vores maskiner i stedet for omvendt. Som et resultat står menneskeheden nu over for en æra med kollektiv stupor og konformitet.

Der er ingen bedre måde at måle, hvordan AI-værktøjer kan påvirke vores evner til at tænke og lære, end ved at observere ChatGPTs indvirkning på den globale uddannelsessektor. Både studerende og undervisere bruger nu ChatGPT som et pædagogisk supplement, et snydeværktøj eller som en digital krykke.

En nylig undersøgelse af Walton Family Foundation og Impact Research fandt, at de fleste lærere (51%) og mange elever allerede bruger ChatGPT i skolerne. Endnu en undersøgelse, der involverer 1,000 amerikanske colleges fandt ud af, at 30 % af eleverne brugte ChatGPT til skriftlige opgaver, hvor 60 % af dem brugte det på "mere end halvdelen af ​​deres opgaver." ChatGPT har passeret mange eksamener på højt niveau, herunder Wharton MBA-eksamen, amerikansk medicinsk licenseksamen, flere juraeksamener og en finale ved Stanford Medical School.

Papirfabrikker kan også bruge ChatGPT til at fremstille videnskabelige artikler og rapporter. Forskere, der bruger sådanne konstruerede data, eller som bevidst forfalsker forskningsprocessen gennem generativ AI, kan ende med at fremme politikker og produkter, der er skadelige for samfundet. Verden har ikke råd til endnu en coronapyskose!

Alt i alt bliver både elever og lærere i stigende grad skræmt af den Almægtige AI. AI hæver barren for studerende, professorer og en række fagfolk. At sortere ægte artefakter fra bliver også stadig sværere.

As Christopher Kanan, bemærkede lektor i datalogi ved University of Rochester for nylig: "Det bliver bare sværere at finde ud af, hvem der ved hvad, og hvem der får hjælp fra ting som ChatGPT." Nogle få skoler i New York, Hong Kong, Bangalore og andre steder har forbudt elever at bruge ChatGPT i deres opgaver på grund af bekymringer over "plagiat", snyd og misinformation.

Mens ChatGPT er et fantastisk værktøj til at studere komplekse begreber og dele af vidensintegration, i virkeligheden kan det forvandle de fleste brugere til føjelige forbrugere af AI-genererede data. Langvarig digitalt medieret passivitet atrofierer den tænkende evne.

En anden ulempe ved ChatGPT er dets potentiale til at udvide den meget omdiskuterede digitale kløft. Ansøgninger om job, forfremmelser, stipendier osv. vil i overvældende grad favorisere de digitale haves frem for de digitale have-nots, især når der kræves abonnementsgebyrer for adgang.

Undervisere er i øjeblikket ikke i stand til at definere de etiske grænser for ChatGPT og indtager en afventende holdning. Selve den etiske ramme kan være skrevet af eller ved hjælp af værktøjer som ChatGPT. Aini Suzana Ariffin, lektor i politiske studier ved Universiti Teknologi Malaysia, er overbevist om, at undervisere ikke behøver at være bekymrede. "En etisk ramme for generative AI-værktøjer som ChatGPT vil finde ud af, hvad der øger læringsprocessen, og hvad der hæmmer den. Dette kan tage tid og vil involvere megen debat, men vi må hellere begynde nu."

Menneskelig beslutningstagning

Singapores regering meddelte for nylig, at dens embedsmænd vil begynde at bruge ChatGPT for at lette deres arbejdsbyrde. Dette giver mening, da gentagne eller verdslige opgaver kan fremskyndes af AI-værktøjer. Men efterhånden som generative AI-værktøjer bliver eksponentielt mere intelligente og effektive – som de faktisk vil – kan styringskomplekset gradvist blive overtaget af maskiner. Denne nye form for social ordning kaldes "algokrati"; en, hvor algoritmer, især AI og blockchain, anvendes på tværs af hele spektret af regering. Algokrati indebærer uundgåeligt forudsigelig styring. Berlins politistyrke har allerede indarbejdet en embryonisk form for algoritmer i sit prædiktiv politi system. Står vi over for en Minority Report samfund i den nærmeste fremtid?

ChatGPT accelererer også strømmen af ​​information til topbeslutningsniveauerne i en regering eller organisation – uden om bureaukratiers traditionelle gatekeeperroller på mellemniveauerne. Selvom dette kan blive udråbt som en velkommen udvikling mod bureaukrati, kan manglen på traditionelle checks and balances føre til tvingende beslutninger med sørgelige socioøkonomiske implikationer. Forestil dig at transplantere et så algokratisk beslutningssystem ind i en militær supermagts atomvåbeninfrastruktur?

ChatGPT risikerer også at krænke privatlivets fred og lække personlige data i sektorer som bank og sundhedsvæsen. Effektiviteten af ​​generative AI-værktøjer er drevet af en stadigt voksende mængde data, der konstant føres tilbage i deres neurale netværk. Denne søgen efter nøjagtighed, effektivitet og hastighed kan resultere i, at private data bliver kompromitteret som en del af maskinlæringsprocessen.

På sundhedsområdet, informeret samtykke til AI-assisteret sundhedspleje kan blive skåret ned, da patienter enten ikke forstår, hvad de giver samtykke til, eller de kan stole for meget på et "intelligent og upartisk" maskinbaseret system. Det bliver mere ildevarslende, når triage anvendes i kritiske situationer. Traditionelt bestemmes triage af det tilstedeværende medicinske personales integritet og færdigheder samt de tilgængelige ressourcer on-site. En algoritme kan dog lidenskabsløst arrangere triage baseret på en patients "værd for samfundet"; data-udledt forventet levetid; og omkostninger forbundet med at redde patientens liv.

De etiske dimensioner af AI-medieret triage er ikke blevet løst. Det er dog værd at bemærke, at Microsofts medstifter Bill Gates går ind for dødspaneler for de uhelbredeligt syge, der "ikke har nogen fordele for samfundet", og hvis bevarelse tilsyneladende kan opveje "hundrede tusinde læreres" job. Hvis vi strækker denne logik yderligere, kan vi være vidne til et fremtidigt mandat for "smarte babyer", som angiveligt vil befolke et "smart samfund". Fremtidens sofistikerede algoritmer kan sortere de genetiske haves fra de genetiske have-nots gennem føtale DNA-tests og værktøjer såsom præimplantationsgenetisk diagnose (PGD). Denne eugene impuls er eufemistisk blevet kaldt "frembringende gavn". I øvrigt, Bill Gates har økonomisk støttet et kinesisk firma, der arbejder på at skabe "super babyer". Kan det undre, at Microsoft er en primær finansiel støttespiller for OpenAI?

I slutningen af ​​dagen, vil en etisk AI-ramme blive stenmuret af Tech Titans, som kan bestemme designet, parametrene og målene for generative AI-værktøjer? Eller vil vores valgte ledere forsøge at søge en synergistisk sameksistens mellem AI og mennesker.

Læs hele historien her ...