Teknokrater henvender sig til etikister for at 'redde deres sjæl'

Tooghalvtreds etager under toppen af ​​Salesforce Tower møder jeg Paula Goldman i et konferencelokale med glaspaneler, hvor ordene LIGESTILLINGSKONTOR er stavet på et patchwork-banner, den slags dekoration, du måske køber til et barns fødselsdagsfest.

Goldman har en kandidatgrad fra Princeton og en ph.d. fra Harvard, hvor hun studerede, hvordan kontroversielle ideer bliver mainstream. Hun ankom til Salesforce for lidt over et år siden at blive dens første nogensinde Chief Ethical and Humane Use Officer og påtage sig en hidtil uset og desuden tvetydig titel, der blev skabt specielt til hendes hidtil uset, tvetydige, men alligevel meget specifikke job: Sørg for, at Salesforce gør verden bedre, ikke værre.

"Jeg tror, ​​vi er et øjeblik i branchen, hvor vi er ved dette bøjningspunkt," fortæller Goldman. ”Jeg tror, ​​den tekniske industri var her før med sikkerhed i 80'erne. Pludselig var der vira og orme, og der skulle være en helt ny måde at tænke på og håndtere det på. Og du så en sikkerhedsindustri vokse op efter det. Og nu er det bare standardprotokol. Du ville ikke sende et større produkt uden at samle det igen eller sørge for, at de rigtige sikkerhedsforanstaltninger er i det. ”

”Jeg tror, ​​vi er på et lignende tidspunkt med etik,” siger hun. ”Det kræver ikke kun at have et sæt værktøjer, hvormed man kan udføre arbejdet, men også et sæt normer, at det er vigtigt. Så hvordan skalerer du disse normer? ”

Jeg spørger hende, hvordan disse normer i første omgang besluttes.

”På en eller anden måde er det milliardspørgsmålet,” siger hun. ”Alle disse spørgsmål er ekstremt komplicerede, og der er meget få af dem, hvor svaret bare er helt klart. Højre? Meget af det kommer ned til, hvilke værdier holder du højest i din beregning? ”

···

I kølvandet på Cambridge Analytica-skandalen, medarbejderudfald og andre politiske hændelser og privatlivshændelser stod tech-virksomheder overfor en bølge af opkald til leje hvad forskere ved Data & Society Research Institute kalder "Etiske ejere," mennesker, der er ansvarlige for at operationalisere "de gamle, domæne-springende og uopløselige debatter om menneskelige værdier, der ligger til grund for etisk undersøgelse" på praktiske og påviselige måder.

Salesforce hyrede Goldman væk fra Omidyar-netværket som kulmination af en syv måneders krisestyringsproces, der kom, efter at Salesforce-medarbejdere protesterede over virksomhedens engagement i Trump-administrationens immigrationsarbejde. Andre virksomheder, der reagerer på deres egne respektive kriser og bekymringer, har ansat en lille kader af lignende fagfolk - filosoffer, politikeksperter, lingvister og kunstnere - alle for at sikre, at når de lover ikke at være onde, har de faktisk en sammenhængende idé om hvad det indebærer.

Så hvad skete der så?

Mens nogle teknologivirksomheder har taget konkrete skridt til at indsætte etisk tænkning i deres processer, siger Catherine Miller, midlertidig administrerende direktør for den etiske konsulentvirksomhed Doteveryone, at der også har været en masse "klappet rundt" om emnet.

Kritikere afviser det som “Etik-vask, ”Praksis med kun at kowtowing i retning af moralske værdier for at afværge regeringsregulering og mediekritik. Udtrykket hører til det voksende leksikon omkring teknologietik eller "tethics", en forkortelse, der begyndte som satire i tv-showet "Silicon Valley", men siden er gået over til lejlighedsvis alvorlig brug.

"Hvis du ikke anvender disse ting i praksis og i dine tilskyndelsesstrukturer, hvis du ikke har gennemgangsprocesser, så bliver det som moralsk vaporware," siger Shannon Vallor, en teknologfilosof ved Markkula Center. til anvendt etik ved Santa Clara University. "Det er noget, du har lovet, og du mente at levere, men det ankom faktisk aldrig."

Google oprettede beryktet et AI-råd og derefter, i april sidste år, opløst det efter ansatte protesterede inddragelse af en anti-LGBTQ-advokat. I dag inkluderer Googles tilgang til etik brugen af ​​“Modelkort”Der sigter mod at forklare sin AI.

”Det er ikke noget, der har nogen tænder,” siger Michael Brent, en dataetiker ved Enigma og en filosofiprofessor ved University of Denver. "Det er ligesom, 'Her er et rigtig smukt kort.'"

Virksomheden har gjort en større indsats: Vallor afsluttede netop en pligtur hos Google, hvor hun underviste ingeniører i etikseminarer og hjalp virksomheden med at implementere styringsstrukturer til produktudvikling. ”Når jeg taler om etik i organisatoriske omgivelser, er den måde, jeg ofte præsenterer på, at det er kroppen af ​​moralsk viden og moralsk dygtighed, der hjælper mennesker og organisationer med at opfylde deres ansvar over for andre,” fortæller Vallor mig.

Mere end 100 Google-ansatte har deltog etiktræning udviklet i Markkula-centret. Virksomheden udviklede også en retfærdighedsmodul som en del af sin Machine Learning Crash Course, og opdateringer sin liste over “ansvarlige AI-praksis” kvartalsvis. ”Langt størstedelen af ​​de mennesker, der udgør disse virksomheder, vil bygge produkter, der er gode for mennesker,” siger Vallor. ”De ønsker virkelig ikke at bryde demokratiet, og de vil virkelig ikke skabe trusler mod menneskelig velfærd, og de vil virkelig ikke mindske læsefærdigheder og bevidsthed om virkeligheden i samfundet. De vil lave ting, de er stolte af. Så skal jeg gøre hvad jeg kan for at hjælpe dem med at opnå det? Ja."

···

Markkula-centret, hvor Vallor arbejder, er opkaldt efter Mike Markkula Jr., ”ukendt”Apple medstifter, der, i 1986, gav centret et startfremskud på samme måde som han gav den unge Steve Jobs et oprindeligt lån. Han ville aldrig have sit navn på bygningen - det var en overraskelse, et tegn på taknemmelighed, fra universitetet.

Markkula er trukket tilbage til at leve et stille liv og arbejder fra sin spredte lukkede ejendom i Woodside. I disse dage har han ikke meget kontakt med det firma, han startede - ”kun når jeg har noget galt med min computer,” fortæller han mig. Men da han ankom til Santa Clara-campus for at få en orientering med sin datter i midten af ​​80'erne, var han Apples formand, og han var bekymret for, hvordan det gik i dalen. ”Det var klart for os begge, Linda [hans kone] og jeg, at der var en hel del mennesker, der var i beslutningspositioner, der bare ikke havde etik på deres radarskærm,” siger han. "Det er ikke, at de var uetiske, de havde bare ingen værktøjer til at arbejde med."

Læs hele historien her ...