Kritikere har beskyldt virksomheder for at bruge algoritmer til ledelsesopgaver og siger, at automatiserede systemer kan dehumanisere og uretfærdigt straffe medarbejdere.
Når Conor Sprouls, en kundeservicerepræsentant i callcenteret for forsikringsgiganten MetLife taler med en kunde over telefonen, holder han det ene øje i det nederste højre hjørne af sin skærm. Der, i en lille blå kasse, fortæller AI ham, hvordan han har det.
Taler vi for hurtigt? Programmet blinker et ikon for et hastighedsmåler, der indikerer, at han skal bremse.
Lyder søvnig? Softwaren viser en "energikue" med et billede af en kaffekop.
Ikke empatisk nok? Et hjerteikon dukker op.
I årtier har folk frygteligt forestillet sig hære af hypereffektive robotter, der invaderer kontorer og fabrikker, og gobler op job, når de først var udført af mennesker. Men i al bekymringen for potentialet ved kunstig intelligens til at erstatte rang-and-file-medarbejdere, har vi måske overset muligheden for, at den også erstatter cheferne.
Sprouls og de andre callcenter-medarbejdere på hans kontor i Warwick, Rhode Island, har stadig masser af menneskelige tilsynsførende. Men softwaren på deres skærme - lavet af Cogito, et AI-selskab i Boston - er blevet en slags adjunct manager, som altid ser dem. I slutningen af hvert opkald opdateres Sprouls 'Cogito-underretninger og føjes til et statistik-instrumentbræt, som hans vejleder kan se. Hvis han skjuler Cogito-vinduet ved at minimere det, underretter programmet sin vejleder.
Cogito er et af flere AI-programmer, der bruges i callcentre og andre arbejdspladser. Ifølge Joshua Feast, Cogitos administrerende direktør, er målet at gøre arbejderne mere effektive ved at give dem feedback i realtid.
”Der er variation i menneskelig præstation,” sagde Feast. ”Vi kan udlede af den måde, mennesker taler med hinanden på, om det går godt eller ej.”
Målet med automatisering har altid været effektivitet, men på denne nye slags arbejdsplads ser AI menneskeheden selv som det, der skal optimeres. Amazon bruger komplekse algoritmer til at spore arbejdernes produktivitet i sine opfyldelsescentre og kan automatisk generere papirarbejde til brandarbejdere, der ikke opfylder deres mål, som The Verge afslørede i år. (Amazon har bestridt, at det fyrer arbejdstagere uden menneskelig input og siger, at ledere kan gribe ind i processen.) IBM har brugt Watson, dets AI-platform, under medarbejderanmeldelser til at forudsige fremtidig præstation og hævder, at den har en 96% nøjagtighedsgrad.
Så er der startups. Cogito, der arbejder med store forsikringsselskaber som MetLife og Humana samt finansielle virksomheder og detailfirmaer, siger, at det har 20,000-brugere. Percolata, et Silicon Valley-firma, der tæller Uniqlo og 7-Eleven blandt sine klienter, bruger sensorer i butikken til at beregne en "ægte produktivitetsscore" for hver arbejdstager og rangordne arbejdstagere fra mest til mindst produktive.
Styring ved hjælp af algoritme er ikke et nyt koncept. I det tidlige 20th århundrede revolutionerede Frederick Winslow Taylor fremstillingsverdenen med sin "videnskabelige ledelse" -teori, der prøvede at vride ineffektivitet ud af fabrikker ved at timing og måle hvert aspekt af et job. For nylig har Uber, Lyft og andre on-demand platforme tjent milliarder af dollars ved at outsourcere konventionelle opgaver med menneskelige ressourcer - planlægning, lønningsliste, evaluering af ydelser - til computere.
Men at bruge AI til at styre arbejdstagere i konventionelle, 9-til-5-job har været mere kontroversielt. Kritikere har beskyldt virksomheder for at bruge algoritmer til ledelsesopgaver og siger, at automatiserede systemer kan dehumanisere og uretfærdigt straffe medarbejdere. Og selvom det er klart, hvorfor ledere vil have AI, der kan spore alt, hvad deres arbejdere gør, er det mindre klart, hvorfor arbejderne ville. ”
Det er surrealistisk at tro, at enhver virksomhed kunne affyre deres egne arbejdstagere uden nogen menneskelig involvering, ”sagde Marc Perrone, præsidenten for United Food and Commercial Workers International Union, som repræsenterer fødevare- og detailarbejdere, i en erklæring om Amazon i april.
“… Mens det er klart, hvorfor ledere vil have kunstig intelligens, der kan spore alt, hvad deres arbejdere gør, er det mindre klart, hvorfor arbejdere vil."
Og her ligger problemet - svage, uvidende og bange mennesker. Det er det, som globale virksomheds profitører stoler på - den statistiske sandsynlighed for, at masserne vil handle på denne måde.