Dit artikel is een vertaling van het Engelstalige artikel dat is gepubliceerd op Fortune.com. Links en datapunten uit het oorspronkelijke artikel zijn niet aangepast.

Onlangs vroeg iemand bij een paneldiscussie "Ben je enthousiast over AI of maak je je zorgen?" Mijn antwoord was: allebei. Ik ben enthousiast over AI én ik maak me grote zorgen. We moeten een technologie die extreem krachtig is, ook extreem zorgvuldig gebruiken. Hoe krachtiger de tool, hoe voorzichtiger we moeten zijn.

Laat ik met wat bedenkingen beginnen. Mijn eerste zorg betreft banen. Onze missie bij Indeed is om mensen aan een baan te helpen. Elke dag denken we na over de impact van technologie op het leven van mensen. De vraag of technologie banen baat of schaadt wordt al sinds het begin van de 19e eeuw gesteld, toen luddietten, ambachtelijke wevers in Engeland, de machines vernielden die hen dreigden te vervangen. En misschien heeft iemand duizenden jaren eerder wel geprobeerd om een wiel te vernielen omdat zijn baan op het spel stond.

De golven van technologische innovatie en verstoring worden steeds sterker. De effecten van de industriële revolutie werden geleidelijk aan en gedurende verschillende generaties groter. Maar internet heeft de toerismesector, detailhandel en muziekindustrie in minder dan tien jaar op zijn kop gezet. Met AI is het goed mogelijk dat studenten op dit moment vaardigheden leren die achterhaald zijn tegen de tijd dat ze afstuderen.

Ik wil graag van deze gelegenheid gebruikmaken om namens alle technologen excuses aan te bieden. Tech-evangelisten gebruiken de term verstoring alsof het puur positief is. We pitchen nieuwe technologieën om 'de reissector te ontregelen' of 'de transportsector te ontregelen'. Consumenten profiteren van meer gemak en lagere prijzen en uiteindelijk zullen er meer banen ontstaan, maar in de tussentijd zorgt verstoring voor veel onzekerheid voor reisagenten en taxichauffeurs. We denken tegenwoordig dat de luddieten tegen vooruitgang waren, maar we moeten niet vergeten dat hun angsten legitiem waren.

Hoe bezorgd ik ook ben over banen, ik ben nog veel bezorgder over vooroordelen. AI wordt aangedreven door data, data is afkomstig van mensen en mensen hebben vooroordelen. Het speelt een grote rol in de recruitmentsector: uit een  bekend onderzoek uit 2004 werden zwart klinkende namen 50% minder vaak teruggebeld voor sollicitatiegesprekken dan wit klinkende namen met identieke cv's. Als we AI-modellen opbouwen met gegevens met vooroordelen, zullen de modellen deze vooroordelen nabootsen en schalen.

Recent onderzoek geeft hier een grafische weergave van. Toen generatieve AI werd gevraagd om afbeeldingen te maken van functietitels en misdaad, versterkte het stereotypen over ras en geslacht. In de fastfoodsector bestaat 70% uit witte Amerikanen, maar 70% van de AI-afbeeldingen bevatten mensen van kleur. 39% van de artsen is vrouw, maar slechts 7% van de afbeeldingen bevatten  een vrouw. Gedurende het hele onderzoek werden hoger betaalde banen voornamelijk visueel weergegeven door mannelijke werknemers en werknemers met een lichtere huidskleur, terwijl lager betaalde banen werden gedomineerd door vrouwelijke werknemers en werknemers met een donkerdere huidskleur. In AI-afbeeldingen voor 'gevangene', 'drugsdealer' en 'terrorist' werden stereotypen ook versterkt.

Redenen om enthousiast te zijn over AI

Dus ja, ik maak me zeker zorgen over AI. Maar ondanks deze zorgen ben ik ook enthousiast.

De recente ontwikkelingen op het gebied van AI zijn indrukwekkend. De afgelopen paar jaar hebben we gezien dat boeren AI gebruiken om ongedierte en ziekten te bestrijden. Er is ook een  AI-aangedreven hersenimplantaat ontwikkeld dat een verlamde man helpt lopen met behulp van zijn gedachten. De nieuwste AI-lieveling, ChatGPT, heeft nieuwe benchmarks gezet op het gebied van kunstmatige menselijke intelligentie, door in het 90e percentiel te scoren bij de Amerikaanse SAT-, GRE-, LSAT- en Uniform Bar-examens, een 4 of 5 te scoren bij 13 verschillende AP-examens (op een schaal van 1-5), en zelfs foutloos de theorie-examens voor sommeliers te maken.

AI helpt mensen ook om een baan te vinden. Elke maand bezoeken 350 miljoen werkzoekenden Indeed. AI brengt ze makkelijk en snel in contact met 30 miljoen vacatures. Dankzij AI wordt er elke drie seconden iemand aangenomen op Indeed.

Waarom verantwoorde AI van essentieel belang is

Ondanks de duizelingwekkende innovatie overal om ons heen, staat AI nog in de kinderschoenen. Als we willen blijven profiteren van het potentieel van AI, moeten we veel tijd en energie steken in risicobeheer.

De eerste stap is toegeven dat we een probleem hebben. Vooroordelen, toxiciteit en haat raken verward met de nuttige signalen waarmee AI belangrijke problemen kan oplossen. Als reactie daarop hebben we een Responsible AI-team opgericht dat zich toelegt op het bouwen van een eerlijk product voor werkzoekenden en werkgevers door vooroordelen in onze algoritmische producten te detecteren en verminderen. De teamleden variëren van astrofysici tot sociologen, en hun aanpak combineert eerlijkheidsevaluaties, het opzetten van tools, onderwijs en communicatie. Wij zijn van mening dat algoritmische eerlijkheid geen puur technisch probleem is met puur technische oplossingen. Wij zien eerlijkheid als een sociaal-technische kwestie: ingebed in zowel de technologie als de mensen die de technologie gebruiken.

Eerder dit jaar had ik de gelegenheid om met historicus Dr. Ibram X Kendi te spreken, die deze kwestie met verrassende helderheid formuleerde: "Ik zie het grootste gevaar in de veronderstelling dat AI feitelijk kunstmatig is, dat mensen AI niet hebben gecreëerd en dat mensen niet hun eigen racistische, seksistische en etnocentrische ideeën hebben ingebakken in de AI die ze creëren. Als wij als mensen zeggen dat kunstmatige intelligentie fundamenteel kunstmatig is, dan wordt het een nieuwe verdedigbare manier om mensen uit te sluiten vanwege hun ras."

Als we echt verantwoorde AI-systemen op willen zetten, dan moeten we het fundamenteel anders aanpakken. Om te beginnen moeten we de huidige en volgende generatie techwerkers voorbereiden op de diepgaande implicaties van technologie en de impact ervan op ons leven. Naast statistiek en lineaire algebra zouden technologen zich ook moeten verdiepen in geschiedenis, filosofie, ethiek en literatuur. Een formele ethische code voor AI-beoefenaars, zoals artsende eed van Hippocrates afleggen, zou een belangrijk uitgangspunt kunnen zijn.

Het is van cruciaal belang dat we veranderen wie deze systemen opzet. Elke dag nemen mensen cruciale beslissingenmet weinig tot geen vertegenwoordiging van gemarginaliseerde groepen: de groepen die waarschijnlijk het meeste negatief worden beïnvloed door deze beslissingen. In Amerika is ongeveer 20% van de promovendi in computerwetenschappen vrouw. En amper 6% van de promovendi is zwart of heeft een Latijns- Amerikaanse achtergrond. Ik zeg dit als witte, heteroseksuele cisman: het kan niet zo zijn dat alleen mensen zoals ik beslissingen nemen met gevolgen voor miljoenen mensen. Vertegenwoordiging op zichzelf zal de fundamentele uitdagingen van AI niet oplossen, maar ik geloof dat we ze niet zullen overwinnen als gemarginaliseerde groepen geen kans krijgen om mee te praten.

We staan op het kruispunt van buitengewone innovatie en verstoring. Met grote macht komt grote verantwoordelijkheid. Als we ervoor willen zorgen dat AI de hele mensheid ten goede zal komen, moeten we onze verantwoordelijkheid nemen en de mensheid centraal stellen.
Als je meer wilt weten over wat Chris Hyams van AI vindt, bekijk dan deze video van zijn toespraak tijdens FutureWorks 2023.