Teknokrati og den skjulte fare for big data

Del denne historie!

Forfatterne knytter big data korrekt: ”Men med centraliserede algoritmer, der styrer alle aspekter af samfundet, datadrevet teknokrati truer med at overvælde innovation og demokrati."  De ser imidlertid ikke den overordnede dagsorden for Teknokrati i første omgang.  TN Editor

I spilteori beskriver ”prisen på anarki”, hvordan enkeltpersoner, der handler i deres egeninteresse inden for et større system, har tendens til at reducere det større systems effektivitet. Det er et allestedsnærværende fænomen, som næsten alle os konfronteres med jævne mellemrum.

For eksempel, hvis du er byplanlægger med ansvar for trafikstyring, er der to måder, du kan adressere trafikstrømme på. Generelt vil en central, top-down tilgang - en, der forstår hele systemet, identificerer chokerepunkter og foretager ændringer for at eliminere dem - være mere effektiv end blot at lade de enkelte chauffører træffe deres egne valg på vejen med den antagelse, at disse valg vil føre til et acceptabelt resultat. Den første tilgang reducerer omkostningerne ved anarki og gør bedre brug af al tilgængelig information.

Verden er oversvømmet i data. Sidste år producerede vi lige så mange data, som blev oprettet i alle tidligere menneskers civilisationsår. Vi nærmer os hurtigt, hvad den italienske forfatter Italo Calvino forudgående kaldte "verdens hukommelse": en fuld digital kopi af vores fysiske univers.

Når Internettet udvides til nye fysiske områder gennem tingenes internet, vil prisen på anarki blive en afgørende måling, og fristelsen til at fjerne det med kraften i big data-analyse vil blive stærkere.

Eksempler på dette bugner. Overvej Amazon. Det har et bjerg af oplysninger om alle dets brugere, som det bruger til at forudsige, hvad de måske ønsker at købe næste. Som i alle former for centraliseret kunstig intelligens, bruges fortidens mønstre til at forudsige fremtidige mønstre. Amazon kan se på de sidste 10 bøger, du har købt, og med stigende nøjagtighed foreslå, hvad du måske ønsker at læse næste.

Men her skal vi overveje, hvad der går tabt, når vi reducerer anarkiets niveau. Den mest meningsfulde bog, du skal læse efter den forrige 10, er ikke en, der pænt passer ind i et etableret mønster, men snarere en, der overrasker eller udfordrer dig til at se på verden på en anden måde.

I modsætning til trafik-flow-scenariet er optimerede forslag måske ikke det bedste paradigme til online bogsøgning. Store data kan multiplicere vores indstillinger, mens vi filtrerer ting, vi ikke ønsker at se, men der er noget, der skal siges for at opdage, at 11. bog gennem ren serendipity.

Hvad der er tilfældet med bogkøb, gælder også for mange andre systemer, der digitaliseres, som vores byer. Centraliserede kommunale systemer bruger nu algoritmer til at overvåge byinfrastruktur, lige fra trafiklys og metro til bortskaffelse af affald og levering af energi. Mange borgmestre over hele verden er fascineret af ideen om et centralt kontrolrum, såsom Rio de Janeiros IBM-designede operationscenter, hvor byledere kan reagere på nye oplysninger i realtid.

Men med centraliserede algoritmer, der styrer alle aspekter af samfundet, truer datadrevet teknokrati med at overvælde innovation og demokrati. Dette resultat bør undgås. Decentral beslutningstagning er afgørende for berigelsen af ​​samfundet. Datadrevet optimering stammer omvendt løsninger fra et forudbestemt paradigme, der i sin nuværende form ofte udelukker de transformerende eller kontroversielle idéer, der fremmer menneskeheden fremad.

En vis mængde tilfældighed i vores liv giver mulighed for nye ideer eller tankegange, som ellers ville gå glip af. Og i makroskala er det nødvendigt for selve livet. Hvis naturen havde brugt forudsigelige algoritmer, der forhindrede tilfældig mutation i replikation af DNA, ville vores planet sandsynligvis stadig være i stadiet med en meget optimeret enkeltcelleorganisme.

Decentral beslutningstagning kan skabe synergier mellem menneskelig og maskinel intelligens gennem processer med naturlig og kunstig samevolution. Distribueret intelligens kan undertiden reducere effektiviteten på kort sigt, men det vil i sidste ende føre til et mere kreativt, mangfoldigt og modstandsdygtigt samfund. Prisen på anarki er en pris, der er værd at betale, hvis vi ønsker at bevare innovation gennem serendipity.

Læs hele historien her ...

• Carlo Ratti leder Senseable City Laboratory ved Massachusetts Institute of Technology og leder World Economic Forums Global Agenda Council on Future Cities. Dirk Helbing er professor i computational social science ved det schweiziske føderale institut for teknologi i Zürich.

Tilmeld
Underretning af
gæst
0 Kommentarer
Inline feedbacks
Se alle kommentarer