Børnebeskyttelsesydelser til brug af AI, Big Data til at forudsige overgreb mod børn

Del denne historie!
Før-kriminalitet føres til en ny ekstrem for at ryge ud af misbrug af børn, men for at komme dertil vil millioner af borgere blive udsat for privatlivets fred. Mange falske positive vil også blive misbrugt uretmæssigt. Er det denne handel med en slags misbrug for en anden? Faktisk har teknokrater skabt en etisk ildstorm. ⁃ TN Editor

I en tidsalder med nøje og et klima med frygt for overgreb mod børn, er det måske ikke overraskende, at socialarbejdere har henvendt sig til ny teknologi for hjælp.

Lokale myndigheder - som står overfor spiralende efterspørgsel og et finansieringsunderskud på £ 800m - begynder at spørge, om big data kan hjælpe med at identificere sårbare børn.

Kunne et computerprogram markere en problemfamilie, identificere et potentielt offer og forhindre en anden Baby P eller Victoria Climbié?

For mange år siden ville sådanne spørgsmål have været tingene i science fiction; nu er de de ting, der er videnskabelig.

Bristol eksperimenterer et sted med disse nye evner og kæmper med de moralske og etiske spørgsmål, der følger med dem.

Gary Davies, der fører tilsyn med rådets forudsigelsessystem, kan se fordelene.

Han hævder, at det ikke betyder, at man tager mennesker ud af beslutningsprocessen; snarere betyder det at bruge data til at forhindre mennesker i at begå fejl.

”Det siger ikke, at du vil blive udnyttet seksuelt, eller at du vil forsvinde,” siger Davies. ”Det demonstrerer adfærdsegenskaber ved at blive udnyttet eller gå glip af. Det markerer den risiko og sårbarhed. ”

Sådanne teknikker har fungeret på andre områder i årevis. Maskinlæringssystemer, der er bygget til at udnytte enorme mængder af personlige data, er længe blevet brugt til at forudsige kundeadfærd i den private sektor.

Computerprogrammer vurderer, hvor sandsynligt vi er for misligholdelse af et lån, eller hvor meget risiko vi udgør for en forsikringsudbyder.

Designere af en forudsigelig model skal identificere en "udgangsvariabel", som angiver tilstedeværelsen af ​​den faktor, de prøver at forudsige.

Til beskyttelse af børn kan det være et barn, der kommer ind i plejesystemet.

De forsøger derefter at identificere egenskaber, der ofte findes hos børn, der kommer ind i plejesystemet. Når disse er blevet identificeret, kan modellen køres mod store datasæt for at finde andre personer, der deler de samme egenskaber.

The Guardian opnåede detaljer om alle forudsigelige indikatorer, der blev overvejet til optagelse i Thurrock-rådets børnesikringssystem. De inkluderer historie om vold i hjemmet, krænkelse af unge og truancy.

Mere overraskende indikatorer som restancer på huslejer og sundhedsdata blev oprindeligt overvejet, men udelukket fra den endelige model. I tilfælde af både Thurrock, et råd i Essex og London-bydelen Hackney, kan familier markeres til socialarbejdere som potentielle kandidater til programmet Troubled Families. Gennem denne ordning modtager råd tilskud fra staten for at hjælpe husholdninger med langvarige vanskeligheder såsom arbejdsløshed.

Sådanne systemer rejser uundgåeligt bekymringer om privatlivets fred. Wajid Shafiq, administrerende direktør for Xantura, firmaet, der leverer forudsigeligt analysearbejde til både Thurrock og Hackney, insisterer på, at der er en balance mellem privatlivets rettigheder og brugen af ​​teknologi til at levere et offentligt gode.

Læs hele historien her ...

Tilmeld
Underretning af
gæst
0 Kommentarer
Inline feedbacks
Se alle kommentarer