AI: de mens in control

Slechte algoritmes bestaan niet, slechte data en slechte uitkomsten wel. Dit betoogde Willem Peter de Ridder in het eerste deel van ons tweeluik over kunstmatige intelligentie. Voor dit tweede deel interviewden we hem over data governance. Hoe kan de kwaliteit van de data en daarmee een eerlijke uitkomst gewaarborgd worden? En: hoe blijft de mens in control? In dit artikel beantwoordt Willem Peter de Ridder, strategieconsultant, commissaris en postacademisch docent bij het Erasmus Governance Institute (EGI), deze vragen.

Hoewel een algoritme an sich niet kan discrimineren (“het is niet meer dan rekenkracht”), kan een uitkomst wel discriminerend zijn. Dat komt dan, zegt De Ridder, doordat er discriminerende patronen in de data zitten. “Het monitoren van de kwaliteit van de data kan dit voorkomen. Er mogen geen vooroordelen in de data zitten. Naast het aloude adagium carbage in is carbage out geldt ook bias in is bias out.”

Van black box naar gray box

Een ander probleem is dat de betere algortimes vaak black boxes zijn. Vaak is het onmogelijk om te achterhalen waarom een bepaalde uitkomst de beste uitkomst is. Dit brengt ethische dilemma’s met zich mee, zegt De Ridder. “Als Netflix jou een aanbeveling geeft voor een romantische komedie terwijl je altijd science fiction films kijkt, dan vloeit daar geen bloed uit. Het wordt pas wrang als niemand je kan uitleggen waarom je geen hypotheek krijgt. Of erger: waarom een virtuele rechter je een bepaalde celstraf oplegt.”

“Als niemand je kan uitleggen waarom je geen hypotheek krijgt is dat wrang”

Een organisatie kan hier op verschillende manieren mee omgaan, volgens De Ridder. “Je kan ervoor kiezen om een ander algoritme te gebruiken, namelijk een algoritme dat minder accuraat is, maar waarvan wel duidelijk is hoe uitkomsten tot stand komen.” Een andere manier is om menselijke interventie in te bouwen in het proces. Dan maak je van de black box een gray box. De uitkomst van het algoritme is niet meer dan een advies. Het is de mens die de uiteindelijke beslissing neemt. “Dit is eigenlijk een soort vier-ogenprincipe: twee ogen zijn mens, twee ogen zijn robot.”  Een derde optie is dat de beslissing van het algoritme automatisch geldt, maar dat er een beroepsmogelijkheid is. In geval van beroep geeft een mens een second opinion. Op basis daarvan kan de beslissing bevestigd of vernietigd worden.

Commissarissen

De rol van commissarissen is belangrijk volgens De Ridder, die zelf ook commissaris is. Commissarissen moeten bestuurders bevragen op hoe een bedrijf omgaat met data en algoritmen. “Deugen de uitkomsten en hoe is dit gewaarborgd? Welke controlemechanismen zijn er? Bevat de data geen vooroordelen? Welke kwaliteit heeft de data? Is de databeveiliging op orde?” De Ridder signaleert dat jonge bedrijven, vaak digital native, data governance goed op orde hebben. “Zij begrijpen goed dat de waarde van hun bedrijf in data zit. Ze gaan dan ook zorgvuldig om met data. Bestaande bedrijven moeten een transitie maken en dat gaat in kleine stapjes. Tijdens de masterclasses die ik geef, gaan er gelukkig steeds meer handen omhoog als ik vraag welke bedrijven er een afdeling data governance hebben.”

“Het is belangrijk dat de mens in control blijft.”

Het beheersen van kunstmatige intelligentie is ook in de toekomst belangrijk. Stephen Hawking en Elon Musk schetsen het doemscenario dat kunstmatige intelligentie zal leiden tot einde van de mensheid. Kunstmatige intelligentie is in dat scenario onbeheersbaar geworden voor mensen. De Ridder acht dit scenario niet heel waarschijnlijk. “Angst voor technologie is van alle tijden, maar vaak ongegrond. In de Industriële Revolutie waren we nog bang dat de koeien geen melk meer zouden geven als er stoomtreinen door het weiland gingen rijden.” De Ridder benadrukt wel hoe belangrijk het is dat de mens in control blijft en de toepassingen van kunstmatige intelligentie in goede banen leiden. “Bedrijven moeten hun eigen algoritmes blijven controleren. De overheid moet dit afdwingen via wetgeving en ook commissarissen en toezichthouders moeten hierop toezien.”

Dit artikel is geschreven door Wilmer Klaassen, student-assistent bij Erasmus Institute for Business Economics (EIBE).