Fordi mennesket er ufuldkommen, følger det, at alt, hvad mennesket skaber, også er ufuldstændigt, inklusive computerprogrammer, der er beregnet til at køre alt i vores liv. Endvidere antyder entropiets lov, at alt, hvad mennesket skaber, vil være mere ufuldkommen end skaberen. At stole på vores liv og formuer til hemmelige algoritmer er tåbeligt og farligt. ⁃ TN Editor
I 1603, blev Engelske embedsmænd arresterede Sir Walter Raleigh. De anklagede ham for forræderi. Han var angiveligt involveret i et komplot til at vælte og dræbe den nye konge, James I.
Under hans retssag indgik anklagere kun et bevismateriale. Det var et tilståelsesbrev skrevet af den mand, der angiveligt planlagde grundenHerre Cobham. Brevet kaldet Raleigh a medkonspirator.
Sir Walter Raleigh sagde, at tilståelsen alene ikke var pålidelig. Hvis han kunne bringe Cobham at vidne for retten, ville han i det mindste have en chance for krydsundersøge det eneste vidne mod ham.
Men de engelske domstole ved tid var ikke særlig interesseret i behørig proces. De dømte Raleigh vidduden at give ham mulighed for at konfrontere eller undersøge vidnet.
Han blev fængslet og til sidst henrettet.
Spol frem til USA, 2017. En mand står over for drabsklager. Og det vigtigste vidne mod ham er en computeralgoritme.
Algoritmen analyser komplekse DNA-prøver. Det beslutterif den anklagedes DNA er til stede i en prøve.
Naturligt, sagsøgte vil vide det hvordan nøjagtigt algoritmen fungerer.
Og det har han god sag til at undre sig. Hans tidligere domfældelse for det samme mord havde været afhængig af a forskellige DNA-testmaskiner.
Men scientists senere besluttede algoritmen var ikke helt rigtigt. Than beviser for, at han dømte ham blev ændret fra positiv til uomstrækkelig.
Han havde siddet i fængsel, dømt for mord, baseret på en defekt algoritme!
Så ved den nye retssag forsvaret spørger til undersøge tden nye maskins algoritme.Men det selskab der designetalgoritme kan ikke lide den idé.
algoritme er en handelshemmelighed. Det var dyrt at udvikle sig, aog de ønsker ikke, at hemmeligheden skal komme ud.
Vi er levendein alderen på algoritmer.
En algoritme vælger, hvilken musik du lytter til. Og Spotify gør et ret godt stykke arbejde ... A defekt algoritme kan tvinge dig til at lytte til en gospel-sang i stedet for gangster rap. Ikke den største aftale…
Men hvad sker der, når en algoritme til en selvkørende bil skal vælge mellem at ramme en gruppe eller fodgængere, eller kaster sig selv - og dig—Fra en klippe?
Algoritmen bliver et spørgsmål om liv og død.
Før du kommer i en selvkørende bil, digll vil vide lidt om algoritmen.
Hvilken slags beslutning om split sekund er det blevet programmeret til at tage?
Hvilke dataindgange overvejes?
Og who skrev nøjagtigt algoritmen? Husk, algoritmer stadighave en menneskelig komponentt. Og mennesker er i sagens natur partiske. Deres subjektive synspunkter vil uundgåeligt indgå i algoritmen.
Når en algoritme dømmer den tiltalte i en mordforsøg ... det er det også liv eller død.
Nogle børnebeskyttelsesydelser bruger en algoritme til at bestemme hvilke børn der skal tage. Algoritmen tildeler a risikoscorebaseret på input som hvor mange opkald instituttet har modtaget, og hvis forældrene er fjendtlige over for sagsbehandlere.
Andet domstole bruger allerede en algoritme til at finde ud af recidivism risiko - hvis en kriminel sandsynligvis vil blive fornærmet. Jo højere risiko, jo længere er dommen.
Hvis jeg ryger et led eller kom i kamp i gymnasiet, er jeg 40% mere tilbøjelige til begåa forbrydelse?
WiJeg bliver antaget skyldig på baggrund af sandsynlighed alene? Hvordan kan jeg være sikker på, at algoritmen ikke er partisk?
Hvornår ProPublica analyseret tilbagefald algoritme, fandt de, at det var racistisk partisk.
O'Neil Risk Consulting & Algorithmic Auditing er en anden organisation, der undersøger, hvor fair de algoritmer, der anvendes af retssystemet, er. Men de indrømmer, at selv revisionerne er subjektive til en vis grad.
Det er ret skræmmende at have algoritmer til at kontrollere det strafferetssystem. Due proces muligvis erstattes af computerprocessorer.
Men algoritmer er ikke nødvendigvis en dårlig ting. De kan analysere store og komplekse datasæt. Det kræver en masse arbejde at opbygge en god algoritme. Du kan forstå, hvorfor et firma ønskers at beskytte dets hemmeligheder.
wpDiscuz