‘Een paar weken geleden zei Mark Zuckerberg in een podcast: “We need more masculine energy in tech companies”’, vertelt Maaike Harbers. ‘En dat terwijl het grootste deel van de mensen bij die bedrijven al man, wit en heteroseksueel is. In de VS worden momenteel bij veel grote bedrijven de DEI-programma’s (Diversity, Equity, Inclusion), waar jaren in geïnvesteerd is, weer afgeschaft. Terwijl dat zó belangrijk is. Want juist in de VS maakt een klein groepje de technologie waar miljarden mensen over de hele wereld gebruik van maken.’
Maaike Harbers doet onderzoek naar de ethische aspecten van AI en promoveerde aan de Universiteit Utrecht in 2011.
Toen ze kunstmatige intelligentie studeerde, was twaalf procent van haar medestudenten vrouw. In het door mannen gedomineerde werkveld valt ze op. ‘Als ik een ruimte binnenkom met nieuwe mensen, waarbij de meerderheid man is, moet ik eerst bewijzen dat ik genoeg van het onderwerp af weet, voor ik serieus word genomen. Waarschijnlijk is dat onbewust, maar sommige mannen kijken me in eerste instantie minder aan.
Stereotype
‘Of ik krijg opmerkingen over mijn uiterlijk. Dat is niet kwaad bedoeld, maar het is niet leuk. Ik wil serieus genomen worden als wetenschapper, dan zit ik daar niet op te wachten. Ik ken weinig vrouwen in de AI en IT-wereld die hier níet mee te maken hebben.’
‘Bètavrouwen en alfamannen’ heet de Annie Romein-Verschoorlezing die Harbers vrijdagavond uitspreekt in het Academiegebouw. Dat zo’n homogene groep aan de knoppen draait bij AI-technologie, betoogt ze, heeft gevolgen voor de rest van de samenleving.
‘Kijk bijvoorbeeld naar werving en selecties waarin algoritmes mensen koppelen aan bepaalde banen. Vrouwen worden minder vaak gekoppeld aan hoogbetaalde banen. Ook krijgen ze minder vacatures te zien in de zogeheten STEM-wetenschappen, dus science, technology, engineering en mathematics.
‘Virtuele assistenten zoals chatbots hebben vrouwennamen en vrouwenstemmen. Zowel mannen als vrouwen vinden het gemakkelijker om opdrachten te geven aan een virtuele assistent, als dit een vrouw is. Maar dat bevestigt het stereotype van de vrouw als gedienstig.
‘Een oudere versie van Siri reageerde zelfs op seksueel getinte opmerkingen met: “You make me blush”. In plaats van dat de bot was geprogrammeerd om iets te zeggen als: “Ik vind dit niet leuk” of “Waarom vraag je me dit?”, was de reactie confrontatie-vermijdend. Het bevestigde een stereotype van een vrouw die geen grenzen aan kan geven.’
Bias
AI-technologie baseert zich op al bestaande informatie, legt ze uit. Zo ontstaat er een bias, gebaseerd op al bestaande ongelijkheid. Het feit dat de IT-wereld heel homogeen is – er werken veel meer mannen dan vrouwen – verkleint de kans dat hiermee rekening wordt gehouden. Ook spelen clicks een doorslaggevende rol.
Uit onderzoek blijkt dat mannen vaker klikken op hogere en beter betaalde functies dan vrouwen. Gevolg: mannen krijgen die vacatures vervolgens ook vaker te zien.
‘Er zijn ongelijkheden in samenleving, die zitten in de data waar we over beschikken. Als je daar niet op corrigeert, wordt dat gereproduceerd. AI is een soort spiegel van de maatschappij en daarmee worden bestaande ongelijkheden, en dat zijn er nou eenmaal nogal wat, alleen maar versterkt.’
Die discriminatie speelt op veel plekken. ‘Zo was er tijdens coronatijd een zwarte vrouwelijke student, wier gezicht niet herkend werd door proctoring software. Je ziet het ook in het opsporen van fraude: wie worden daar eerder van verdacht? Denk aan het toeslagenschandaal. Algoritmes worden ook gebruikt om ingrijpende beslissingen te nemen over bijvoorbeeld de hoogte van een lening of een hypotheek.’
Een andere plek waar het probleem opduikt, is de gezondheidszorg. ‘Er zijn veel meer data over mannenlichamen dan over vrouwenlichamen. Medicijnonderzoek werd lange tijd voornamelijk op mannen uitgevoerd. De gedachte was: vrouwen hebben een menstruatiecyclus, en afhankelijk van het moment in de cyclus reageren ze anders op het medicijn.’
Ethiek
Harbers haalt de Annie Romein-Verschoorlezing van vorig jaar aan, die ging over hart- en vaatziekten die eerder worden gedetecteerd bij mannen dan bij vrouwen.
‘Als die bestaande scheefheid in informatie wordt gevoerd aan een algoritme, versterkt dat de ongelijkheid alleen maar meer.’
Om deze bias weg te nemen, moet onder andere worden gekeken naar degenen die werkzaam zijn in het veld. Momenteel is dat dus een duidelijk homogene groep: man, wit, heteroseksueel. ‘Dat zijn uitgerekend de mensen die minder snel de schadelijke gevolgen van die systemen ervaren.’
Om fouten of scheefheden in datasets te verhelpen, wordt nu vooral gekeken naar technologische oplossingen, zoals het aanpassen van een dataset, legt Harbers uit. Het zou effectiever zijn niet alleen vanuit data, maar ook vanuit een ethisch oogpunt naar deze problemen te kijken. Maar: de meeste bedrijven benaderen AI voornamelijk vanuit een commercieel oogpunt.
‘Er is wel veel geld mee te verdienen, maar het is niet per se rechtvaardig. Uit onderzoek is gebleken dat vrouwen zich meer bezighouden met ethiek, als het gaat om AI. Maar als vrouwen ethische dilemma’s aankaartten, werd dat vaak niet verwelkomd: “Je hebt wel een goed punt, maar moet dit nou? We willen eigenlijk gewoon door.”
Hoopvol
‘Daar komt bij dat vrouwen in de minderheid zijn, minder serieus genomen worden, en ook eerder worden onderbroken door hun mannelijke collega’s. Als ze dan beginnen over ethiek, een onderwerp dat óók niet altijd serieus wordt genomen, hebben ze een dubbele achterstand.’
Het kan anders, vertelt Harbers. ‘Vrouwen die werkten bij bedrijven waar wel aandacht is voor diversiteit en inclusie, merkten ook echt dat het daar beter gaat. Ook wordt er bij opleidingen tegenwoordig veel meer aandacht besteed aan ethiek dan een paar jaar geleden het geval was.
‘Er is sprake van ontwikkeling op het gebied van AI en ethiek: de sociale context wordt meer meegenomen. Maar het is een spannende tijd met wat er nu gaande is in de VS, en moeilijk te voorspellen wat er gaat gebeuren. Het hangt er heel erg van af wat voor tegenmacht Europa hierin gaat bieden. Maar binnen mijn werk vind ik het geen optie om niet hoopvol te zijn.’
Maaike Harbers. Bètavrouwen en alfamannen: over de rol van gender in AI. Annie Romein-Verschoorlezing. 7 maart, inloop vanaf 19.30. Groot Auditorium, Academiegebouw