OpenAI CEO Altman lyder alarm over AI og ChatGPT

OpenAI CEO Sam Altman og Fang Bingxing – betragtet som 'faderen til Kinas store firewall', slutter sig til OpenAI-medstifter Elon Musk for at rejse bekymringer vedrørende farerne ved kunstig intelligens (AI).

"Vi er nødt til at være forsigtige her," fortalte den 37-årige Altman ABC News i sidste uge og tilføjede "Jeg tror, ​​folk skal være glade for, at vi er en smule bange for det her."

"Jeg er især bekymret for, at disse modeller kan bruges til storstilet desinformation ... Nu hvor de bliver bedre til at skrive computerkode, kan [de] blive brugt til stødende cyberangreb."

Når det er sagt, mener Altman også, at det kunne være "den største teknologi, menneskeheden endnu har udviklet."

OpenAI er virksomheden bag Chat GPT, som lancerede "GPT-4" for mindre end to uger siden. Den meget sofistikerede chatbot kan nå næsten perfekte resultater på SAT-matematikprøver, og opnå en 90% på den amerikanske advokateksamen.

Og den har konkurrenter...

Andre AI-baserede startups gør også overraskende fremskridt på området. RAD AI lancerede for nylig den første AI-marketingplatform bygget til at forstå følelser, og nogle af de største virksomheder på planeten bruger den allerede.

GenesisAI er en startup, der bygger en markedsplads for at give enhver virksomhed mulighed for at integrere kunstig intelligens og automatisering i deres forretning. Det betyder snart, at kunstig intelligens kan være lige så meget af en integreret del af en virksomhed som medarbejderne selv. –Benzinga

Ifølge Altman dog ChatGPT-4 bruger deduktiv ræsonnement vs. memorering, hvilket kan føre til unøjagtige resultater.

"Det, som jeg forsøger at advare folk mest, er det, vi kalder 'hallucinationsproblemet'" fortalte Altman ABC News. "Modellen vil med sikkerhed angive ting, som om de var fakta (men de) er fuldstændig opdigtede."

Altman tænker der er behov for regulering af AI generelt.

"Der vil være andre mennesker, der ikke sætter nogle af de sikkerhedsgrænser, vi sætter på," sagde han. "Samfundet, tror jeg, har en begrænset mængde tid til at finde ud af, hvordan man reagerer på det, hvordan man regulerer det, hvordan man håndterer det."

Også bekymret over GPT-4 og lignende AI er Fang Bingxing, faderen til Kinas såkaldte Great Firewall.

Ifølge Fang kan sådanne chatbots føre til en "informationskokon" (i modsætning til den frie informationsstrøm i Kina?)

"Folks perspektiver kan manipuleres, når de søger alle slags svar fra AI," sagde han til Red Star News, et medieselskab til det statsstøttede Chengdu Economic Daily, som rapporteret af SCMP.

Fang, en datalog og tidligere embedsmand, betragtes bredt som chefdesigneren af ​​Kinas berygtede internetcensur- og overvågningssystem. Han spillede en nøglerolle i at skabe og udvikle Great Firewall, et sofistikeret system af internetfiltre og -blokke, der gør det muligt for den kinesiske regering at kontrollere, hvad dens borgere kan få adgang til online.

Den Store Firewall er blevet forstærket i løbet af det sidste årti og blokerer kinesiske netbrugeres adgang til en lang række udenlandske websteder og onlinetjenester, herunder Facebook, Twitter og Google. -SCMP

Fang advarede også om, at når AI udvikler sig yderligere, kan det udgøre en trussel mod menneskeheden.

"Nu er det simpelthen software, der bruges i et online chat-lignende scenario. Hvis det er indbygget i robotter og biler, skal vi være på vagt over for den potentielle skade, de kan gøre på mennesker."

Læs hele historien her ...