Dit artikel is een vertaling van het Engelstalige artikel dat is gepubliceerd op Fortune.com. Links en datapunten uit het oorspronkelijke artikel zijn niet aangepast.

Onlangs vroeg iemand bij een paneldiscussie "Ben je enthousiast over AI of maak je je zorgen?" Mijn antwoord was: allebei. Ik ben enthousiast over AI én ik maak me grote zorgen. We moeten een technologie die extreem krachtig is, ook extreem zorgvuldig gebruiken. Hoe krachtiger de tool, hoe voorzichtiger we moeten zijn.

Laat ik met wat bedenkingen beginnen. Mijn eerste zorg betreft jobs. Onze missie bij Indeed is om mensen aan een job te helpen. Elke dag denken we na over de impact van technologie op het leven van mensen. De vraag of technologie jobs baat of schaadt wordt al sinds het begin van de 19e eeuw gesteld, toen Luddieten, ambachtelijke wevers in Engeland, de machines vernielden die hen dreigden te vervangen. En misschien heeft iemand duizenden jaren eerder wel geprobeerd om een wiel te vernielen omdat zijn job op het spel stond.

De golven van technologische innovatie en disruptie worden steeds sterker. De effecten van de industriële revolutie werden geleidelijk aan gedurende verschillende generaties groter. Maar internet heeft de toerismesector, detailhandel en muziekindustrie in minder dan tien jaar op zijn kop gezet. Met AI is het denkbaar dat studenten op dit moment vaardigheden leren die achterhaald zijn tegen de tijd dat ze afstuderen.

Ik wil graag van deze gelegenheid gebruikmaken om namens alle technologen excuses aan te bieden. Tech-evangelisten gebruiken de term 'disruptie

' alsof het puur positief is. We pitchen nieuwe technologieën om 'de reissector te ontregelen' of 'de transportsector te ontregelen'. Consumenten profiteren van meer gemak en lagere prijzen en uiteindelijk zullen er meer jobs ontstaan, maar in de tussentijd zorgt disruptie

voor veel onzekerheid voor reisagenten en taxichauffeurs. We denken tegenwoordig dat de Luddieten

tegen vooruitgang waren, maar we mogen niet vergeten dat hun angsten reëelwaren.

Hoe bezorgd ik ook ben over jobs, ik ben nog veel bezorgder over vooroordelen. AI wordt aangedreven door data, data zijn afkomstig van mensen en mensen hebben vooroordelen. Het speelt een grote rol in de tewerkstelling: uit een bekend onderzoek uit 2004 werden zwart klinkende namen 50% minder vaak teruggebeld voor sollicitatiegesprekken dan wit klinkende namen met identieke cv's. Als we AI-modellen opbouwen met gegevens met vooroordelen, zullen de modellen deze vooroordelen repliceren en vergroten.

Recent onderzoek laat dit grafisch zien.

Toen generatieve AI werd gevraagd om afbeeldingen te maken die verband houden met functies en misdaad, versterkte het stereotypen over ras en geslacht. 70% van de mensen die in de fastfoodsector werken, bestaat uit blanke Amerikanen, maar 70% van de AI-afbeeldingen bevatte mensen met een donkere huidskleur. 39% van de artsen is vrouw, maar slechts 7% van de afbeeldingen bevatte een vrouw. Gedurende het hele onderzoek werden hoger betaalde jobs voornamelijk visueel weergegeven door mannelijke werknemers en werknemers met een lichtere huidskleur, terwijl lager betaalde jobs werden gedomineerd door vrouwelijke werknemers en werknemers met een donkerdere huidskleur. In AI-afbeeldingen voor 'gevangene', 'drugsdealer' en 'terrorist' werden stereotypen ook versterkt.

Redenen om enthousiast te zijn over AI

Dus ja, ik maak me zeker zorgen over AI. Maar ondanks deze zorgen ben ik ook enthousiast.

De recente ontwikkelingen op het gebied van AI zijn adembenemend. De afgelopen paar jaar hebben we gezien dat boeren AI gebruiken om ongedierte en ziekten te bestrijden. Er is ook een AI-aangedreven hersenimplantaat ontwikkeld dat een verlamde man helpt lopen met behulp van zijn gedachten. De nieuwste AI-lieveling, ChatGPT, heeft nieuwe benchmarks gezet op het gebied van kunstmatige menselijke intelligentie, door in het 90e percentiel te scoren bij de Amerikaanse SAT-, GRE-, LSAT- en Uniform Bar-examens, een 4 of 5 te scoren bij 13 verschillende AP-examens (op een schaal van 1-5), en zelfs foutloos de theoretische proeven voor sommeliers af te leggen.

AI helpt mensen ook om een job te vinden. Elke maand bezoeken 350 miljoen werkzoekenden Indeed. AI brengt ze makkelijk en snel in contact met 30 miljoen vacatures. Dankzij AI wordt er elke drie seconden iemand aangeworven op Indeed.

Waarom verantwoorde AI van essentieel belang is

Ondanks de duizelingwekkende innovatie overal om ons heen, staat AI nog in de kinderschoenen. Als we willen blijven profiteren van het potentieel van AI, moeten we veel tijd en energie steken in risicobeheer.

De eerste stap is toegeven dat we een probleem hebben. Vooroordelen, toxiciteit en haat raken verward met de nuttige signalen waarmee AI belangrijke problemen kan oplossen. Als reactie daarop hebben we een Responsible AI-team opgericht dat zich toelegt op het bouwen van een eerlijk product voor werkzoekenden en werkgevers door vooroordelen in onze algoritmische producten te detecteren en te verminderen. De teamleden variëren van astrofysici tot sociologen, en hun aanpak combineert eerlijkheidsevaluaties, het opzetten van tools, onderwijs en communicatie. Wij zijn van mening dat algoritmische eerlijkheid geen puur technisch probleem is met puur technische oplossingen. Wij zien eerlijkheid als een sociaal-technische kwestie, ingebed in zowel de technologie als de mensen die de technologie gebruiken.

Eerder dit jaar had ik de gelegenheid om met historicus Dr. Ibram X Kendi te spreken, die deze kwestie met verrassende helderheid formuleerde: "Ik zie het grootste gevaar in de veronderstelling dat AI feitelijk kunstmatig is, dat mensen AI niet hebben gecreëerd, en dat mensen niet hun eigen racistische, seksistische en etnocentrische ideeën hebben ingebakken in de AI die ze creëren. Als wij als mensen zeggen dat kunstmatige intelligentie fundamenteel kunstmatig is, dan wordt het een nieuwe verdedigbare manier om mensen uit te sluiten vanwege hun ras."

Als we echt verantwoorde AI-systemen willen opzetten, moeten we het fundamenteel anders aanpakken. Om te beginnen moeten we de huidige en volgende generatie techwerkers voorbereiden op de diepgaande implicaties van technologie en de impact ervan op ons leven. Naast statistiek en lineaire algebra zouden technologen zich ook moeten verdiepen in geschiedenis, filosofie, ethiek en literatuur. Een formele ethische code voor AI-beoefenaars, zoals artsen de eed van Hippocrates afleggen, zou een belangrijk uitgangspunt kunnen zijn.

Het is van cruciaal belang dat we veranderen wie deze systemen opzet. Elke dag nemen mensen cruciale beslissingen in kamers met weinig tot geen vertegenwoordiging van gemarginaliseerde groepen: de groepen die waarschijnlijk het meeste negatief worden beïnvloed door deze beslissingen.  In Amerika is ongeveer 20% van de promovendi in computerwetenschappen vrouw. En amper 6% van de promovendi is zwart of heeft een Latijns-Amerikaanse

achtergrond. Ik zeg dit als blanke, heteroseksuele cisman: het kan niet zo zijn dat alleen mensen zoals ik beslissingen nemen met gevolgen voor miljoenen mensen. Vertegenwoordiging op zichzelf zal de fundamentele uitdagingen van AI niet oplossen, maar ik geloof dat we ze niet zullen overwinnen als gemarginaliseerde groepen geen kans krijgen om mee te praten.

We staan op het kruispunt van buitengewone innovatie en disruptie. Met grote macht komt grote verantwoordelijkheid. Als we ervoor willen zorgen dat AI de hele mensheid ten goede zal komen, moeten we onze verantwoordelijkheid nemen en de mensheid centraal stellen.

Als je meer wilt weten over wat Chris Hyams van AI vindt, bekijk dan deze video van zijn toespraak tijdens FutureWorks 2023.