Technocrats henvender sig til etikere for at "redde deres sjæl"

SocratesWikipedia Commons, Greg O'Beirne
Del denne historie!
image_pdfimage_print
Teknokrater skaber, fordi de kan, ikke fordi der er en moralsk eller etisk sag at gøre. I deres sind er teknologi ikke etisk eller moralsk og fortjener derfor ikke en overvejelse under udviklingsprocesserne. ⁃ TN Editor

Tooghalvtreds etager under toppen af ​​Salesforce Tower møder jeg Paula Goldman i et konferencerum med glaspaneler, hvor ordene KVALITETSKONTOR er stavet ud på et patchwork-spændende banner, den slags dekoration, du måske køber til et barns fødselsdagsfest.

Goldman har en kandidatgrad fra Princeton og en ph.d. fra Harvard, hvor hun studerede, hvordan kontroversielle ideer bliver mainstream. Hun ankom til Salesforce for lidt over et år siden at blive dens første nogensinde Chief Ethical and Humane Use Officer og påtage sig en hidtil uset og desuden tvetydig titel, der blev skabt specielt til hendes hidtil uset, tvetydige, men alligevel meget specifikke job: Sørg for, at Salesforce gør verden bedre, ikke værre.

”Jeg tror, ​​vi er i et øjeblik i branchen, hvor vi er på dette bøjningspunkt,” fortæller Goldman. ”Jeg tror, ​​at tech-branchen var her før, med sikkerhed i 80'erne. Pludselig var der vira og orme, og der var brug for en helt ny måde at tænke på det og håndtere det på. Og du så en sikkerhedsindustri vokse op efter det. Og nu er det bare standardprotokol. Du vil ikke sende et større produkt uden at slå det sammen sammen eller sørge for, at de rigtige sikkerhedsforanstaltninger er i det. ”

”Jeg tror, ​​vi er i et lignende øjeblik med etik,” siger hun. ”Det kræver ikke kun at have et sæt værktøjer til at udføre arbejdet, men også et sæt normer, at det er vigtigt. Så hvordan skalerer du disse normer? ”

Jeg spørger hende, hvordan disse normer i første omgang besluttes.

"På en eller anden måde er det spørgsmålet om milliarder dollars," siger hun. ”Alle disse spørgsmål er ekstremt komplicerede, og der er meget få af dem, hvor svaret bare er helt klart. Ret? Meget af det kommer ned til, hvilke værdier holder du højest i din beregning? ”

···

I kølvandet på Cambridge Analytica-skandalen, medarbejderudfald og andre politiske hændelser og privatlivshændelser stod tech-virksomheder overfor en bølge af opkald til leje hvad forskere ved Data & Society Research Institute kalder "Etiske ejere," mennesker, der er ansvarlige for at operationelisere ”de gamle, domænehoppende og uopløselige debatter om menneskelige værdier, der ligger til grund for etisk undersøgelse” på praktiske og påviselige måder.

Salesforce hyrede Goldman væk fra Omidyar-netværket som kulmination af en syv-måneders krisestyringsproces, der kom efter, at Salesforce-medarbejdere protesterede virksomhedens inddragelse i Trump-administrationens immigrationsarbejde. Andre virksomheder, der reagerer på deres respektive kriser og bekymringer, har ansat en lille cader med lignende fagfolk - filosoffer, politikeksperter, lingvister og kunstnere - alt sammen for at sikre, at når de lover ikke at være onde, de faktisk har en sammenhængende idé om hvad det indebærer.

Så hvad skete der så?

Mens nogle teknologivirksomheder har taget konkrete skridt for at indsætte etisk tænkning i deres processer, siger Catherine Miller, midlertidig administrerende direktør for det etiske konsulentfirma Doteveryone, at der også har været en masse ”flapper” om emnet.

Kritikere afviser det som ”Etik-vask, ”Praksis med kun kowtowing i retning af moralske værdier for at afværge regeringsregulering og mediekritik. Udtrykket hører til det voksende leksikon omkring teknologiske etik, eller "tetik", en forkortelse, der begyndte som satire på tv-showet "Silicon Valley", men siden har krydset over til lejlighedsvis alvorlig brug.

"Hvis du ikke anvender dette i praksis og i dine incitamentsstrukturer, hvis du ikke har gennemgangsprocesser, ja, bliver det som moralsk vaporware," siger Shannon Vallor, en filosof af teknologi ved Markkula Center til anvendt etik ved Santa Clara University. ”Det er noget, som du har lovet, og som du havde tænkt at levere, men det kom faktisk aldrig.”

Google oprettede beryktet et AI-råd og derefter, i april sidste år, opløst det efter ansatte protesterede inddragelse af en anti-LGBTQ-talsmand. I dag inkluderer Googles tilgang til etik brugen af ​​"Modelkort”Der sigter mod at forklare dets AI.

”Det er ikke noget, der har nogen tænder,” siger Michael Brent, en dataetiker ved Enigma og filosofiprofessor ved University of Denver. ”Det er ligesom,” Her er et rigtig smukt kort. ””

Virksomheden har gjort en større indsats: Vallor afsluttede netop en turné på pligt hos Google, hvor hun underviste i etiksseminarer for ingeniører og hjalp virksomheden med at implementere ledelsesstrukturer til produktudvikling. ”Når jeg taler om etik i organisatoriske omgivelser, er det, som jeg ofte præsenterer det, at det er kroppen af ​​moralsk viden og moralsk dygtighed, der hjælper mennesker og organisationer med at opfylde deres ansvar over for andre,” fortæller Vallor.

Mere end 100 Google-ansatte har deltog etiktræning udviklet i Markkula-centret. Virksomheden udviklede også en retfærdighedsmodul som en del af sin Machine Learning Crash Course, og opdateringer sin liste over ”ansvarlig AI-praksis” kvartalsvis. ”Langt de fleste af de mennesker, der udgør disse virksomheder, ønsker at bygge produkter, der er gode for folk,” siger Vallor. ”De ønsker virkelig ikke at bryde demokratiet, og de ønsker virkelig ikke at skabe trusler mod den menneskelige velfærd, og de ønsker virkelig ikke at mindske læsefærdigheder og bevidsthed om virkeligheden i samfundet. De vil lave ting, de er stolte af. Så skal jeg gøre hvad jeg kan for at hjælpe dem med at opnå det? Ja."

···

Markkula-centret, hvor Vallor arbejder, er opkaldt efter Mike Markkula Jr.ukendt”Apple medstifter, der i 1986, gav centret et startfremskud på samme måde som han gav den unge Steve Jobs et oprindeligt lån. Han ville aldrig have sit navn på bygningen - det var en overraskelse, et tegn på taknemmelighed, fra universitetet.

Markkula har trukket sig tilbage for at leve et roligt liv og arbejdede fra sin spredte gatede ejendom i Woodside. I disse dage har han ikke meget kontakt med det firma, han startede - ”kun når jeg har noget galt med min computer,” fortæller han mig. Men da han ankom på Santa Clara-campus for at orientere sig med sin datter i midten af ​​80'erne, var han Apples formand, og han var bekymret for, hvordan tingene foregik i dalen. ”Det var klart for os begge, Linda [hans kone] og jeg, at der var en hel del mennesker, der var i beslutningsprocesser, som bare ikke havde etik på deres radarskærm,” siger han. ”Det er ikke, at de var uetiske, de havde bare ikke noget værktøj at arbejde med.”

Læs hele historien her ...

Deltag i vores mailingliste!


Tilmeld
Underretning af
gæst
3 Kommentarer
Ældste
Nyeste Mest afstemt
Inline feedbacks
Se alle kommentarer
siger det bare

”Alle disse spørgsmål er ekstremt komplicerede” siger hun. Værdier er op individet. I en gang forstand ja, det er op til os individuelt, men spørgsmålet er ikke kompliceret. De har taget agnet, og det fungerer. De er af egen betydning og har som sådan gjort sig til små guder, der kender godt og ondt, ikke kun for sig selv, men har også valgt det for os. Etik og retspraksis bruges til at blive undervist i skolen, men det er blevet smidt ud med Bibelen. Bare se på alle advokater, der annoncerer på tv. Sandheden er, at vi ALLE er syndere. Ja, det... Læs mere "

Steve Prewitt

Hele denne artikel slog mig som "vaporware". Etik er en vittighed, når branchens største aktør arbejder hånd i handske med Kina og skaber en national teknokratisk gulag (og nej, jeg taler ikke om ”reeducation” lejre for muslimer, der definerer det onde).