AI som en tjeneste anvendt til billige droner betyder, at ethvert retshåndhævende organ nu kan have deres egen flåde af droner til at spionere på borgere. Naturligvis vil de fange lovovertrædere fra tid til anden, men uskyldige civils rettigheder og privatliv trampes ned. ⁃ TN Editor
Overkommelige forbrugerteknologi har gjort overvågning billig og kommoditiseret AI-software har gjort det automatisk.
Disse to trends fusionerede denne uge, da dronefabrikanten DJI partnerskabJuni 5 med Axon, firmaet, der fremstiller Taser-våben og kameraer til politiets krop, for at sælge droner til lokale politiafdelinger rundt om i USA. Nu har det lokale politi ikke kun adgang til droner, men optagelser fra de flyvende kameraer analyseres automatisk af AI-systemer, der ikke er videregivet til offentligheden.
Optagelser vil blive uploadet eller streamet til Axons digitale sky til politikameraer, som f.eks krop kameraer det sælges i øjeblikket, hvor det kan analyseres med Axons AI og bruges til alt fra crowd monitoring til søgning og redning, virksomheden skriver på sin hjemmeside.
Dette lyder vagt, men AI forskning offentliggjort to dage tidligere af akademikere fra Indien og England viser nøjagtigt, hvordan et sådant dronesystem kunne bruges. Papiret med titlen "Eye in the Sky" beskriver, hvordan droneoptagelser kunne bruges til at opdage "voldelige individer" i realtid.
For at træne AI fløj forskerne en drone for at knipse 2,000-billeder af mennesker, der foregiver at skade hinanden. Men da forskerne ikke brugte rigtige data og omhyggeligt iscenesatte de oplysninger, AI analyserede for at lære forskellen mellem vold og normal menneskelig bevægelse, er der ingen garanti for, at det ville fungere godt i den virkelige verden, David Sumpter, forfatter af Over nummer: Undersøgelse af algoritmer, der kontrollerer vores liv, skrev på Medium.
”Hvad algoritmen har gjort er at klassificere enkeltpersoner med deres hænder eller ben i luften som voldelige,” skrev Sumpter. Andre, som Google-etik, hawk Meredith Whittaker, Tweetet at forskningen var mangelfuld, og at "AI står over for en stigende etisk krise."
Andre forskere, herunder google (pdf) og Facebook, har også foretaget omfattende undersøgelser for at løse det samme problem med at spore, hvordan folk bevæger sig, og hvad disse bevægelser kan indikere, at de gør.
Men "Eye in the Sky" -forskerne forsøger at forbinde visse stillinger med forsæt. Forskerne diskuterer ikke noget falskt positivt til handlinger, der kan blive fortolket som vold, såsom legekamp, slå en flue af en persons skulder eller gribe en, der falder.
Uanset spørgsmål omkring AI's legitimitet, The Verge rapporter at forskerne har fået godkendelse til at teste teknologien under to festivaler i Indien i oktober.
Med $ 160 for en Papegøje drone som ”Eye in the Sky” -teamet anvendte, og et par øre til Amazons sky AI-platform, kunne enhver med en kodende baggrund have lavet et lignende system. Også selvom teenagereagurkbønder bygger deres egne AI-systemer.
wpDiscuz