Onverantwoorde AI
Wat voorbeelden van onverantwoorde AI: gezichtsherkenningssoftware werkt minder goed bij vrouwen dan bij mannen. Werving- en selectiealgoritmes koppelen vrouwen minder vaak aan goedbetaalde banen. En generatieve AI-applicaties - zoals chatbots en virtuele assistenten - bevestigen vrouwelijke stereotypen.
Ons onderzoek toont aan dat vrouwen een cruciale rol hebben in het ontwikkelen van verantwoorde AI
Maaike Harbers deed dit onderzoek in opdracht van de provincie Zuid-Holland. Ze vertelt: ,,Er is weliswaar veel onderzoek gedaan naar gender, diversiteit en inclusie in de IT-sector, maar niet in de AI-sector. Dat is een gemis, omdat AI grote ethische risico’s heeft. Juist daarom is diversiteit in perspectieven heel belangrijk. Zo zijn er helaas veel voorbeelden waarbij algoritmes groepen mensen benadelen vanwege bewuste of onbewuste vooroordelen in data, zoals gebeurde bij het toeslagenschandaal.‘’
,,Meer diversiteit in de AI-sector betekent dat we meer verschillende perspectieven meenemen bij het maken van AI. Dit verkleint de kans op nadelige effecten. Ons onderzoek toont aan dat vrouwen een cruciale rol hebben in het ontwikkelen van verantwoorde AI: ze brengen extra perspectieven in en zetten zich hier sterker voor in dan mannen.”
Lees ook: AI als middel voor eerlijk en verantwoord ondernemen
De scheve genderverdeling in de Nederlandse AI-sector staat de ontwikkeling van ‘verantwoorde AI’ in de weg. ,,Vrouwen geven aan dat zij minder serieus worden genomen en de sector minder inclusief is voor vrouwen. Dit is zorgwekkend, want dit leidt ertoe dat de uitstroom onder vrouwen groot is, vaak al aan het begin van hun carrière, terwijl er grote arbeidstekorten zijn. Dat is een groot gemis, want vrouwen zetten zich meer in voor verantwoorde AI dan mannen, stellen andere vragen en bieden hiermee een aanvullend perspectief. Juist de groep die zich inzet voor verantwoorde AI en hieraan een unieke bijdrage kan leveren, wordt te vaak over het hoofd gezien.”
Dominante cultuur
Uit het onderzoek van Harbers blijkt dat er tussen vrouwen en mannen verschillen zijn in de manier waarop ze met ethische AI-vraagstukken omgaan. ,,Sommige vrouwen gaven aan dat in teams met een dominante mannelijke cultuur vaker risico’s genomen worden, terwijl vrouwen zich eerder terughoudend opstellen. Zo wezen zij erop dat AI-toepassingen, zoals robots, een negatieve milieu-impact hebben vanwege de grondstoffen die ervoor nodig zijn.”
Door het erkennen en benoemen van de verdiensten van vrouwen in de ontwikkeling van kunstmatige intelligentie, wordt het vakgebied aantrekkelijker voor hen
Harbers doet enkele aanbevelingen in haar onderzoek, zoals het vergroten van het bewustzijn over het belang van meer diversiteit en inclusie op de werkvloer. ,,Door het erkennen en benoemen van de verdiensten van vrouwen in de ontwikkeling van kunstmatige intelligentie, wordt het vakgebied aantrekkelijker voor vrouwen.” Ook mentorprogramma’s, zichtbare rolmodellen en vrouwennetwerken kunnen daarbij helpen.
Lees ook: HealthSage AI haalt 3 miljoen op voor AI-platform gewijd aan gezondheidszorg
