Vi har hørt advarslerne fra Yuval Noah Harari om, at hvis vi ikke finder ud af, hvordan vi regulerer kunstig intelligens (AI) Menneskehjerner vil snart blive hacket", en udtalelse der uden tvivl afspejler menneskehedens værste frygt for kunstig intelligens. Dette gælder måske især, når man hører fra Schwabs rådgiver Harari, at "at hacke et menneske er at lære personen bedre at kende, end de kender sig selv", hvilket kan gøre det muligt for dem, der ejer teknologien, i stigende grad at manipulere os.

Vi tror måske, at denne ekstreme trussel mod vores privatliv vil forekomme engang i fremtiden, men den hacking, Harari beskriver, er mere ordsproglig end bogstavelig og har allerede fundet sted i miljøer som Facebook og YouTube hvor vi ledes til at se indhold, som algoritmerne har vurderet som interessant for os. Det ser nu ud til, at mange gradvist er blevet ufølsomme over for "hacking" og manipulation, der tillader det at stige uden for megen protest.

Men hvordan ville du have det, hvis din arbejdsplads registrerede, hvordan du har det? Nazanin Andalibi som er adjunkt i information ved University of Michigan, og i artiklen nedenfor diskuterer han følelsesbaseret kunstig intelligens, som allerede bruges på arbejdspladsen.

Følelsessporing – AI på jobbet: Arbejdere frygter at blive overvåget – og misforstået.

By Nazanin Andalibi

Følelsesmæssig kunstig intelligens bruger biologiske signaler såsom stemmeleje, ansigtsudtryk og data fra bærbare enheder samt tekst og hvordan folk bruger deres computere, hvilket lover at registrere og forudsige, hvordan nogen har det. Det bruges i både hverdagsagtige sammenhænge, ​​som underholdning, og i sammenhænge med høje indsatser, som arbejdspladsen, ansættelser og sundhedspleje.

En bred vifte af brancher bruger allerede følelses-AI, herunder callcentre, finans, bankvirksomhed, sygepleje og pleje. Over 50% af store arbejdsgivere i USA bruger følelsesbaseret kunstig intelligens med det formål at udlede medarbejdernes interne tilstande, en praksis der voksede under COVID-19-pandemienFor eksempel overvåger callcentre, hvad deres operatører siger, og deres tonefald.

Forskere har udtrykt bekymring vedr. Emotionel AI's videnskabelige validitet og afhængighed af omstridte teorier om følelserDe har også fremhævet potentialet i følelsesmæssig AI til krænkelse af privatlivets fred og udstiller race, køn og handicap partiskhed.

Nogle arbejdsgivere bruger teknologien som om den var fejlfri, mens nogle forskere søger at reducere dens bias og forbedre dens validitet, miskrediter det fuldstændigt eller foreslå forbud mod følelsesmæssig AI, i hvert fald indtil man ved mere om dens konsekvenser.

Jeg studerer sociale konsekvenser af teknologiJeg mener, at det er afgørende at undersøge de følelsesmæssige konsekvenser af kunstig intelligens for mennesker, der udsættes for den, såsom arbejdstagere – især dem, der er marginaliseret på grund af deres race, køn eller handicapstatus. Kan kunstig intelligens rent faktisk læse dine følelser? Ikke ligefrem.

Arbejdernes bekymringer

For at forstå, hvor følelser AI bruger på arbejdspladsen hen, min kollega Karen Boyd og jeg satte mig for at undersøge opfindernes forestillinger af følelsesbaseret AI på arbejdspladsen. Vi analyserede patentansøgninger, der foreslog følelsesbaseret AI-teknologier til arbejdspladsen. De påståede fordele, som patentansøgere hævdede, omfattede vurdering og støtte til medarbejdernes trivsel, sikring af sikkerhed på arbejdspladsen, øget produktivitet og hjælp til beslutningstagning, såsom forfremmelser, afskedigelse af medarbejdere og tildeling af opgaver.

Vi spekulerede på, hvad arbejdstagerne synes om disse teknologier. Ville de også opleve disse fordele? Ville arbejdstagere for eksempel finde det gavnligt, at arbejdsgivere yder støtte til deres trivsel?

Mine samarbejdspartnere Shanley Corvite, Kat Roemmich, Tillie Ilana Rosenberg og jeg gennemførte en undersøgelse, der delvist var repræsentativ for den amerikanske befolkning og delvist oversamplede for farvede, transkønnede og ikke-binære personer samt personer, der lever med psykisk sygdom. Disse grupper kan være mere tilbøjelige til at opleve skade fra følelsesmæssig AI. Vores undersøgelse havde 289 deltagere fra den repræsentative stikprøve og 106 deltagere fra oversamplen. Vi fandt, at 32 % af respondenterne rapporterede, at de ikke oplevede eller forventede nogen fordele for dem fra følelsesmæssig brug af AI, uanset om den er aktuel eller forventet, på deres arbejdsplads.

Mens nogle arbejdstagere bemærkede potentielle fordele ved brug af følelsesmæssig AI på arbejdspladsen, såsom øget trivselsstøtte og sikkerhed på arbejdspladsen, hvilket afspejlede de fordele, der er påstået i patentansøgninger, udtrykte alle også bekymring. De var bekymrede over skade på deres trivsel og privatliv, skade på deres arbejdsindsats og ansættelsesstatus samt bias og stigma i forbindelse med mental sundhed mod dem.

For eksempel udtrykte 51 % af deltagerne bekymring over privatlivets fred, 36 % bemærkede potentialet for forkerte konklusioner, som arbejdsgivere ville acceptere for pålydende, og 33 % udtrykte bekymring for, at følelsesmæssige, AI-genererede inferencer kunne bruges til at træffe uretfærdige ansættelsesbeslutninger.

Deltagernes stemmer

En deltager, der havde flere helbredsproblemer, sagde: "Bevidstheden om, at jeg bliver analyseret, ville ironisk nok have en negativ effekt på min mentale sundhed." Det betyder, at på trods af følelsesmæssige AI's påståede mål om at udlede og forbedre medarbejdernes velbefindende på arbejdspladsen, kan dens brug føre til den modsatte effekt: forringet velbefindende på grund af tab af privatliv. Faktisk viser andet arbejde af mine kolleger Roemmich, Florian Schaub og jeg foreslår, at følelsesmæssigt AI-induceret tab af privatliv kan spænde over en række skader på privatlivets fred, herunder psykologisk, autonomi, økonomisk, relationel, fysisk og diskrimination.

Om bekymringer om, at følelsesmæssig overvågning kunne bringe deres job i fare, sagde en deltager med en diagnosticeret psykisk lidelse: "De kunne beslutte, at jeg ikke længere passer godt ind på arbejdet og fyre mig. Beslutte, at jeg ikke er dygtig nok, og ikke give mig en lønforhøjelse, eller mene, at jeg ikke arbejder nok."

Deltagerne i undersøgelsen nævnte også potentialet for forværrede magtubalancer og sagde, at de var bange for den dynamik, de ville have med arbejdsgivere, hvis følelsesbaseret AI blev integreret på deres arbejdsplads, og pegede på, hvordan brugen af ​​følelsesbaseret AI potentielt kunne intensivere allerede eksisterende spændinger i forholdet mellem arbejdsgiver og arbejdstager. For eksempel sagde en respondent: "Den mængde kontrol, som arbejdsgivere allerede har over medarbejdere, tyder på, at der ville være få kontroller af, hvordan disse oplysninger ville blive brugt. Ethvert 'samtykke' [fra] medarbejdere er i vid udstrækning illusorisk i denne sammenhæng." Følelsesbaseret AI er blot én måde, hvorpå virksomheder overvåger medarbejdere.

Endelig bemærkede deltagerne potentielle skadevirkninger, såsom tekniske unøjagtigheder i følelsesbaseret kunstig intelligens, der potentielt skaber falske indtryk af arbejdstagere, og følelsesbaseret kunstig intelligens, der skaber og vedligeholder bias og stigmatisering mod arbejdstagere. I beskrivelsen af ​​disse bekymringer fremhævede deltagerne deres frygt for, at arbejdsgivere er afhængige af unøjagtige og forudindtagede følelsesbaserede kunstig intelligens-systemer, især mod farvede mennesker, kvinder og transpersoner.

For eksempel sagde en deltager: "Hvem bestemmer, hvilke udtryk der 'ser voldelige ud', og hvordan kan man identificere folk som en trussel blot ud fra deres ansigtsudtryk? Et system kan læse ansigter, ja, men ikke tanker. Jeg kan bare ikke se, hvordan dette rent faktisk kan være andet end destruktivt for minoriteter på arbejdspladsen."

Deltagerne bemærkede, at de enten ville nægte at arbejde et sted, der bruger følelsesmæssig AI – en mulighed, der ikke er tilgængelig for mange – eller engagere sig i adfærd, der får følelsesmæssig AI til at læse dem positivt for at beskytte deres privatliv. En deltager sagde: "Jeg ville bruge en massiv mængde energi til at maskere, selv når jeg er alene på mit kontor, hvilket ville gøre mig meget distraheret og uproduktiv," og pegede på, hvordan brugen af ​​følelsesmæssig AI ville påføre medarbejderne yderligere følelsesmæssigt arbejde.

Skaden værd?

Disse resultater tyder på, at følelsesbaseret kunstig intelligens forværrer eksisterende udfordringer, som arbejdstagere oplever på arbejdspladsen, på trods af at fortalere hævder, at følelsesbaseret kunstig intelligens hjælper med at løse disse problemer.

Hvis følelsesmæssig AI fungerer som påstået og måler det, den påstår at måle, og selvom problemer med bias bliver adresseret i fremtiden, er der stadig skader, som arbejderne oplever, såsom ekstra følelsesmæssigt arbejde og tab af privatliv.

Hvis disse teknologier ikke måler, hvad de påstår, eller hvis de er forudindtagede, er folk prisgivet algoritmer, der anses for at være gyldige og pålidelige, når de ikke er det. Arbejdere ville stadig skulle bruge en indsats på at forsøge at reducere risikoen for at blive misforstået af algoritmen eller engagere sig i følelsesmæssige udfoldelser, der ville være positivt for algoritmen.

Uanset hvad fungerer disse systemer som panoptikon-lignende teknologier, hvilket skaber skade på privatlivets fred og følelsen af ​​at blive overvåget.

Kilde: Nazanin Andalibi forum The Conversation