Facebook er på en envejs tur til glemsel, hvis dens Technocrat-programmører ikke ændrer deres vane med at fremstille data ud af luften for brugere overalt i verden. Afledte data er ikke reelle, verificerede data, og de er ofte forkerte. ⁃ TN Editor
Tidligere denne måned kom det ud, at blandt Facebooks utallige algoritmisk inducerede reklamekategorier var en post for brugere, som platformens data mining-systemer mente kunne være interesseret i forræderi mod deres regering. Mærket var blevet anvendt til mere end 65,000 russiske borgere, hvilket bragte dem i alvorlig risiko, hvis deres regering opdagede etiketten. Tilsvarende observerer platformens algoritmer lydløst sine to milliarder brugers handlinger og ord, hvor de estimerer, hvilke brugere den mener kan være homoseksuel og stille et mærke på deres konto, der registrerer dette estimat. Hvad sker der, når regeringer begynder at bruge disse mærker til at overvåge, chikanere, tilbageholde og endda henrette deres borgere på baggrund af etiketterne produceret af et amerikansk selskabs black box-algoritmer?
En af udfordringerne med den enorme automatiserede maskine, der er Facebooks annonceringsmotor, er, at dens rene omfang og omfang betyder, at den aldrig muligvis kan være fuldstændig underlagt menneskelig tilsyn. I stedet humrer det sammen i tavshed og ser stille på platformens to milliarder brugere som Big Brother og tavser stille etiketter til dem, der angiver dets skøn over alt fra deres rutinemæssige kommercielle interesser til de mest følsomme og intime elementer i deres personlighed, tro og medicinske forhold, som kunne bruges af deres regeringer til at manipulere, arrestere eller henrette dem.
Sådanne bekymringer er desværre langt fra hypotetiske. Jeg kan personligt attestere, at der er mange regeringer over hele verden, der meget opmærksomme på potentialet i Facebooks annonceringsværktøjer til overvågning og faktisk bruger dem aktivt til at spore specifikke demografier og interesser ved at bruge virksomhedens indbyggede rapporteringsværktøjer til at identificere geografiske områder og demografi til mål for yderligere overvågning.
I dag drejer meget af den statslige brug af Facebooks værktøjer til annonceretningslinjer sig om at bruge dets offentligt tilgængelige målretnings- og rapporteringsværktøjer til at forstå ting som hvilke kvarterer der har den højeste tæthed af personer i en bestemt demografisk, der også har en særlig interesse for regeringen. Ved at køre et stort antal parallelle kampagner, der dækker alle permutationer af et sæt demografi og interesser, kan regeringerne endda lære, hvilke demografier der er mest forbundet med bestemte interesser, og hvilke interesser der er mest korreleret med særlig demografi. Geografiske rapporteringsværktøjer tillader identifikation af kvarterets niveau, hvor disse demografiske forhold og interesser falder sammen, hvilket gør det muligt at øge overvågningsressourcerne i disse områder.
Den offentlige tilgængelighed af Facebooks målretningsværktøjer betyder, at efterretningsbureauer ikke behøver nogen retsafgørelser for at udnytte dem, udenlandske efterretningstjenester kan bruge dem til at spore og overvåge på fremmed jord, og endda lokale retshåndhævende myndigheder kan bruge dem med få begrænsninger. Den globale tilgængelighed af Facebooks annonceplatform tilbyder et særligt kraftfuldt og indbydende værktøj til efterretningsbureauer, der forsøger at kortlægge adversariale nationer, så de bedre kan forstå demografiske og interessekorrelationer og geografiske tilhørsforhold og vejlede tildelingen af deres egne, baserede ressourcer.
På trods af deres utrolige magt og offentlige tilgængelighed er Facebooks annonceværktøjer stadig et relativt sløvt instrument sammenlignet med traditionelle individuelle overvågningsværktøjer.
Som jeg hentydet til tidligere i denne uge, hvad sker der, når lande, hvor homoseksualitet er en kriminel handling, der potentielt kan bringe dødsstraf ved hjælp af Facebooks værktøjer til at målrette mod disse samfund? Ved hjælp af kun Facebooks offentlige annonceringsværktøjer kan de estimere populære kvarterer og hangouts, korrelerede interesser i disse områder og så videre, men de kan ikke let udarbejde en liste over rigtige navne og adresser på alle i deres land, som Facebook mener kan være homoseksuel.
I betragtning af at homoseksualitet i nogle lande er klassificeret som en forbrydelse i henhold til deres formelle juridiske kode, kunne disse lande bruge en retsafgørelse for at tvinge Facebook til at give en liste over alle navn på enkeltpersoner i deres land, som dens algoritmer mener kan være homoseksuel? Lovgivningen i mange lande ville gøre det vanskeligt for Facebook at forsøge at beskytte sine brugere mod en lovlig anmodning om en liste over personer, der mistænkes for at begå, hvad der er i landet, en alvorlig forbrydelse.
wpDiscuz