Petra Lubbers
Managing Director Tom Orrow
Petra Lubbers heeft meer dan twintig jaar ervaring in media, advertising en e-commerce. Sinds 2020 is ze co-founder en managing director van Tom Orrow, specialist in het ontwikkelen en laten groeien van online platformen met een purpose. Naast haar werk verdiept ze zich graag in nieuwe technologische ontwikkelingen zoals AI en de Metaverse. Daarnaast zet ze zich graag in om maatschappelijk bewust ondernemen te stimuleren.
Lees ook: Verbeter je conversiecijfers met behulp van ChatGPT
De huidige stand van AI weerspiegelt in veel opzichten de online wereld waarop het gebaseerd is. Een wereld waar vooroordelen, discriminatie en ongelijkheid nog steeds schering en inslag zijn. Het is dan ook geen verrassing dat AI-systemen deze onvolkomenheden weerspiegelen en zelfs verstérken. Of het nu gaat om gezichtsherkenning die minder accuraat is bij bepaalde etnische groepen of algoritmes die genderstereotypen reproduceren, de schaduw van exclusiviteit is alomtegenwoordig.
De kern van het probleem ligt in de data waarmee AI wordt gevoed. Als AI-systemen worden getraind op historische gegevens, nemen ze de vooroordelen en ongelijkheden uit die gegevens over. Hierdoor ontstaat een vicieuze cirkel waarin AI de bestaande maatschappelijke ongelijkheden versterkt in plaats van ze te verminderen.
Wervings- en selectiealgoritmes
Een concreet voorbeeld van hoe kunstmatige intelligentie (AI) bijvoorbeeld witte mannen kan bevoordelen en vrouwen kan benadelen, is te vinden in wervings- en selectiealgoritmes die worden gebruikt om sollicitanten te beoordelen. Stel je een AI-model voor dat is getraind op historische gegevens van sollicitaties, waarbij traditioneel bepaalde sectoren gedomineerd worden door witte mannen.
Als de trainingsgegevens voornamelijk bestaan uit cv’s van succesvolle kandidaten uit deze demografische groep, kan het algoritme onbewust patronen leren die resulteren in een vooroordeel ten gunste van witte mannelijke sollicitanten. Bijvoorbeeld, het model zou onterecht kunnen concluderen dat bepaalde eigenschappen of ervaringen die oververtegenwoordigd zijn in de trainingsgegevens, kenmerkend zijn voor succes in de betreffende functie.
Menselijke diversiteit vastleggen
Om AI inclusiever te maken, moeten we deze vicieuze cirkel doorbreken. Ten eerste moeten we bewustzijn creëren over de inherente vooroordelen in AI-systemen en erkennen dat deze niet neutraal zijn. Het is essentieel dat we niet blind vertrouwen op de resultaten van AI, maar kritisch blijven nadenken over de onderliggende aannames en gegevens.
Daarnaast is het cruciaal om diversiteit te bevorderen in de ontwikkeling van AI. Teams die AI-systemen ontwerpen en trainen, moeten representatief zijn voor de samenleving als geheel. Dit betekent niet alleen diversiteit in termen van etniciteit en geslacht, maar ook in achtergrond, ervaring en perspectief. Een gevarieerd team is beter in staat om de complexiteit van menselijke diversiteit vast te leggen en te begrijpen.
AI als instrument van vooruitgang
Bovendien moeten we actief werken aan het vergroten van de diversiteit in de datasets waarmee AI-systemen worden getraind. Dit betekent het opnemen van een breed scala aan voorbeelden en ervaringen, zodat het resulterende model niet beperkt blijft tot een bepaald wereldbeeld.
In de race naar technologische vooruitgang mogen we niet voorbijgaan aan het belang van inclusiviteit. Als we AI willen laten dienen als een kracht voor positieve verandering, moeten we ons inzetten voor het doorbreken van de cyclus van exclusiviteit en het creëren van technologie die de diversiteit en complexiteit van de samenleving weerspiegelt. Alleen dan kunnen we een toekomst vormgeven waarin AI een instrument is voor vooruitgang en rechtvaardigheid voor iedereen.
