Psykopater har meget at lære os om AI

Del denne historie!
AI er ofte programmeret til at lære, hvordan man manipulerer vores følelser, og til at måle succes, når vi tilpasser os. Dette psykopatiske træk er toppen af ​​social engineering, og mennesker har meget lidt bevidsthed om, at det endda sker. ⁃ TN Editor

Hvad sker der, når maskiner lærer at manipulere os ved at falske vores følelser? Når vi vurderer den hastighed, hvormed forskere udvikler menneskelignende AI-midler, er vi ved at finde ud af.

Forskere over hele verden prøver at skabe mere menneskelig AI. Pr. Definition udvikler de kunstige psykopater. Dette er ikke nødvendigvis en dårlig ting - der er ikke noget i sig selv galt med at være en psykopat, og alle AI-agenter er kunstige psykopater, simpelthen fordi de mangler hele spektret af neurotype menneskelige følelser.

Men overlapningen mellem psykopatisk adfærd og AI-agentens adfærd er ubestridelig. Vi bør undersøge det, før det er for sent.

Fangerens dilemma

En trio af forskere fra University of Waterloo for nylig udførte et eksperiment for at bestemme hvordan følelser kan hjælpe AI med at manipulere mennesker til samarbejde. Undersøgelsen anvendte et klassisk spilteori-eksperiment kaldet ”Fængselsdilemmaet”, som viser, hvorfor folk, der ville have gavn af at samarbejde, ofte ikke gør det.

Der er mange variationer på spillet, men det er dybest set: der er to fanger, der er isoleret fra hinanden, og bliver afhørt af politiet for en forbrydelse, de har begået sammen. Hvis en af ​​dem snikker, og den anden ikke, får den ikke-forræder tre år, og snitchen går. Dette fungerer begge veje. Hvis begge snikker, får de begge to år. Hvis ingen af ​​dem rykker, får de hver kun et år på en mindre afgift.

Waterloos undersøgelse erstattede en af ​​de menneskelige 'fanger' med en AI-avatar og lod dem fortolke hinandens følelser. Og i stedet for fængselsdomme brugte de guld, så pointen var at få den højeste score muligt i modsætning til den laveste. Som vi sagde, er der variationer på spillet. Men, endnu vigtigere, de fandt, at mennesker lettere blev manipuleret til samarbejdsresultater ved at forbedre AI's niveau af menneskelignende opførsel. I henhold til Waterloo-teamets forskning papir:

Mens forskere med succes kan forbedre opfattelsen af ​​menneskelige unikhedsegenskaber ved at gøre agenter smartere, er følelser afgørende for opfattelsen af ​​menneskelige naturegenskaber. Denne forbedring påvirkede også brugernes samarbejde med agenten og deres glæde.

I mellemtiden offentliggjorde et andet team af forskere for nylig et andet eksperiment involverer fangens dilemma-problem. Forskere fra Victoria University of Wellington og University of Southampton sorterede 190-studerende frivillige i fire grupper bestående af forskellige forhold mellem neurotype studerende og dem, der viser træk af psykopati. Forskerne fandt, at det at have psykopater i en gruppedynamik var i overensstemmelse med mindre samarbejde.

For at være tydeligt anvendte Victory / Southhampton-undersøgelsen ikke mennesker, der betragtes som komplette psykopater, men studerende, der udviste et større antal psykopatiske egenskaber end de andre. Formålet med denne undersøgelse var at bestemme, om introduktion af mennesker, der selv udviste en eller anden psykopati, ville ændre gruppedynamikken. De fandt, at det gjorde:

Vores resultater viser, at mennesker med højere niveauer af psykopatiske egenskaber påvirker gruppedynamikken. Vi fandt en signifikant afvigelse af samarbejde i de grupper, der havde en høj tæthed af høje psykopatiske deltagere sammenlignet med nultæthedsgrupperne.

Den venlige extortioner

At introducere halvbagt følelsesmidler til samfundet har potentialet til at være mareridt. Endnu en nylig undersøgelse af Prisoner's Dilemma-eksperimentet, denne fra Max Planck Society, indikerer, at den bedste strategi for spillet er at blive den "Venlige Ekstortioner." I bund og grund siger den, at når bonusser og incitamenter er på banen, det bedste spil er at skabe en illusion af samarbejde, mens man manipulerer den anden spiller til at samarbejde, uanset hvor mange gange man ikke gør det.

Læs hele historien her ...

Tilmeld
Underretning af
gæst
1 Kommentar
Ældste
Nyeste Mest afstemt
Inline feedbacks
Se alle kommentarer
whisperingsage

Nå, det tog en rundkørsel rute, men i slutningen indså jeg, hvad forfatteren siger, er, at AI er sociopatisk og kan skrue op i vores samfund big time.