Flashback 2012 - Atlanterhavet binder Facebook direkte til teknokrati

Facebooks ønske om effektivitet betyder, at demokrati er ude, og teknokratisk, developer-king-regel er inde.

Lad os bestemme, at Facebook ikke er et land, at virkelige regeringer udfører mange flere funktioner, og at folk ikke er borgere i deres sociale netværk.

Ikke desto mindre gør 900 millioner mennesker noget som at leve i det blå-hvide virtuelle rum på verdens største strukturerede web af mennesker. Og disse mennesker kommer i tvister, som de forventer at blive bedømt. De har denne forventning til dels, fordi Facebook længe har sagt, at de ønsker at skabe et sikkert miljø for at oprette forbindelse til andre mennesker. (Hvordan kan du ellers få folk til at være “mere åben og tilsluttet“?) Men folk vil også have, at nogen skal have ansvaret, de vil have en autoritet, som de kan appellere til, hvis en anden person er en idiot.

Bortset fra i dette tilfælde er nogen virkelig en virksomhedsperson. Så når du rapporterer noget, eller nogen rapporterer noget om dit, er det Facebook, der træffer beslutningen om, hvad der er blevet sendt, selvom vi ved, at et eller andet sted nede på linjen, er et menneske nødt til at legemliggøre den virksomhed, vi, om ikke længe nok klik på en knap.

Enhver individuel beslutning truffet af Facebooks team - lignende nedtager dette foto af et homoseksuelt par, der kysser - er let at stille spørgsmålstegn ved. Ars Technicas Ken Fisher detaljerede en hel masse engangsproblemer som folk er stødt på med Facebooks rapporteringssystem. I hver er der en fornærmet part, men vi hører kun den ene side af konflikten, når disse problemer bobler op. På tværs af mange enkeltbegivenheder har du to personer (eller enheder som virksomheder) med modstridende ønsker. Dette er en klassisk sag, hvor du har brug for en slags regering.

Det er ikke svært at forestille sig at tage en eller 20 eller endda 200 beslutninger om fotografier eller statusopdateringer på en uge, men det er mindboggling at overveje, at Facebook skal behandle 2 millioner rapporter pr. Uge, og det inkluderer ikke enkle "markér som spam" -meddelelser.

Hvordan designer du et system til at håndtere den arbejdsbyrde? Jeg talte med James Mitchell, der styrer det, Facebook kalder "site-integritet" inden for sin brugerdriftsafdeling, og Jud Hoffman, virksomhedens globale politikchef om rapporteringsprocessen. De er arkitekterne for Facebooks teknokrati.

”Mængden af ​​tanke og debat, der går ind i processen med at skabe og styre disse regler, er ikke så forskellig fra en lovgivningsmæssig og retlig proces, alt sammen rullet sammen til en,” sagde Hoffman, en advokat. ”Og James har det udøvende / retlige element. Jeg synes ikke, det er en strækning at tænke over dette i en regeringssammenhæng, men det er en anden form, og vi tager det virkelig, virkelig alvorligt. ”

Mitchell fortalte mig, at det vigtigste skridt var at lægge noget struktur i rapporteringsprocessen. Da han startede i 2006, var der ingen form for klager fra brugerne. Det betød, at der var en massiv kø af udifferentierede problemer. Så han og hans team begyndte at tænke på, hvilke slags problemer de modtog, og skabte kategorier af problemer, som de raffinerede over tid.

Det gør det muligt at kanalisere rapporterne gennem et komplekst sæt processer og teams, så de ankommer foran mennesker eller computere, der ved, hvad de skal gøre med dem.

Facebook har afsløret denne infrastruktur for første gang i dag. Det er et produkt af mere end fem års arbejde fra flere teams inden for Facebook, der har arbejdet for at gøre processen med at håndtere denne oversvømmelse af brugerhenvendelser så effektiv som muligt.

I slutningen af ​​mange af disse rapporteringslinjer er der en person, der skal træffe en beslutning om brugerens besked. Nogle af disse beslutninger er binære - Indeholder dette fotografi nøgenhed? - og disse er generelt outsourcet til hold, der kan anvende enkle og strenge formler som at spørge: "Er denne person nøgen?" Andre beslutninger er komplekse på måder, der gør maskiner meget gode til at håndtere dem. (For eksempel er der mere end 50 signaler, som Facebooks algoritmer ser på for at afgøre, om en profil er spam, og de automatiske svar er mere nøjagtige end menneskelige ville være.)

Men størstedelen af ​​rapporterne sendes af et ansigtsløst team bestående af flere hundrede Facebook-medarbejdere i Mountain View, Austin, Dublin og Hyderabad. Disse mennesker og de værktøjer, de har bygget, er blevet de facto lovgivere, bureaukrater, politi og dommere for kvasi-nationen på Facebook. Nogle beslutninger, de tager, påvirker hundreder af millioner af mennesker på en eller anden måde; andre beslutninger vil ændre nogle få menneskers liv på en stor måde.

Hvad der er fascinerende for mig er, at Facebook i det væsentlige har genskabt et regeringsbureaukrati komplet med regulatorer og retshåndhævelse, men optimeret til helt andre værdier end traditionelle regeringer. I stedet for en forfatning har Facebook de to missioner at gøre “verden mere åben og forbundet” og holde brugerne på sit websted ved at minimere deres negative oplevelser. Frem for alt skal Facebooks løsning på alle problemer med regeringen være designet til ekstrem effektivitet i stor skala.

Som angivet ovenfor skal de virkelige regeringer udføre alle slags funktioner bortset fra tvister mellem borgere, men se bare på forskellen i skala mellem Facebooks regering og Palo Altos regering. Palo Alto har omkring 65,000 indbyggere og 617 på fuld tid medarbejdere. Facebook har 900 millioner ”beboere” og et par hundrede bureaukrater, der tager alle beslutningerne om indhold.

Facebooks ønske om effektivitet betyder, at demokrati er ude og teknokratisk, udvikler-king-reglen er inde. Folk kan ikke stemme om reglerne, og selv når Facebook tilbød sine brugere muligheden for at stemme om en ny fortrolighedspolitik i sidste uge, valgdeltagelse var 0.038 procent. Folk ved, at Facebook kontrollerer et stort stykke af deres digitale liv, men de har ikke en følelse af digitalt statsborgerskab. Og den apati giver Facebooks teknokrati en chance for at lykkes, hvor dets historiske fortilfælde ikke gjorde det.

De oprindelige teknokrater var en gruppe tænkere og ingeniører i 1930'erne, der genoplivet Platons drøm om filosofkongen, men med en spin i maskinalderen. Ledet af Thorstein Veblen, Howard Scott og M. King Hubbert, foreslog de ikke at styre af folket eller monarkiet eller diktatoren, men af ​​ingeniørerne. Ingeniørerne og forskerne ville herske rationelt og upartisk. De ville skabe et teknokrati, der fungerede som et urværk og sikrede, at alles produktivitet blev distribueret effektivt. De udarbejdede et helt system, hvorved det nordamerikanske kontinent ville blive styret med funktionelle sekvenser, der gjorde det muligt for den kontinentale direktør at få tingene gjort.