Fair, Accountable & Transparent AI: een interview met Professor Marc Salomon

Er worden in Nederland en in de rest van de wereld grote bedragen in AI gestopt, zowel via publieke als private investeringen. De overheid investeert met name in het fundamentele onderzoek, bedrijven meer in toegepast onderzoek. De vooruitgang zal door deze investeringen enorm zijn, verwacht Salomon. Een beperkende factor is echter wel: de beschikbaarheid van goede mensen. Hoogwaardig onderwijs samen met R&D die slimme technologie ontwikkelt zodat je AI ook kunt gebruiken als je geen wiskundige of informaticus bent kan de tekorten oplossen.

Het gaat tegenwoordig veel over ‘explainable AI’ en FAT: fairness, accountability & transparency. Maar wie is daar verantwoordelijk voor?

“Het is de taak van overheid, bedrijfsleven en publiek om ervoor te zorgen dat het nemen van beslissingen door algoritmen controleerbaar en eerlijk blijft. En dat lijkt te werken. Het wordt steeds meer een belemmerende factor als je niet aan het publiek of de overheid kunt uitleggen wat je algoritme doet of hoe je de privacy van mensen beschermt. Echter, een groot aantal bedrijven heeft nog wel een slag te maken om met deze nieuwe vraag vanuit de markt goed om te kunnen gaan.”

Salomon legt uit voor welke dilemma’s bedrijven kunnen komen te staan op dit gebied: “Welke standaard hanteer je als het gaat om fairness? Elk algoritme dat beslissingen neemt discrimineert per definitie – beslissingen nemen is keuzes maken en keuzes maken is discriminatie: je doet dit wel, maar dat niet. Maar discrimineert het meer dan wij ethisch gezien aanvaardbaar vinden? Dat is de vraag die je moet stellen. En je zult moeten accepteren dat het begrip dynamisch kan zijn. Wij accepteerden tien jaar geleden heel andere dingen dan die we nu accepteren. Daarnaast zijn ethische standaarden in allerlei landen verschillend. De moral machine van MIT illustreert dat perfect. Die veronderstelt dat je een programmeur bent van software voor een autonome auto. Hij laat je vervolgens kiezen hoe de algoritmiek programmeert in een noodsituatie. Spaar je het leven van jonge of oude mensen, zwarte of witte mensen, gehandicapte of gezonde mensen? Er bestaat een enorme diversiteit in hoe verschillende delen van de wereld dat invullen. In sommige landen zijn jongeren belangrijker dan ouderen en in andere landen is dat precies andersom. Als je een multinational bent die software maakt voor autonome auto’s moet je er rekening mee houden dat ethische standaarden overal anders kunnen zijn. Daar sta je niet direct bij stil."

Hoe pak je als bedrijf het traject richting fair, accountable & transparant AI aan?

“Je moet beginnen met de notie dat deze vraagstukken bestaan. Je moet je ethisch kompas constant tegen het licht houden. Maximaliseer je alleen de winst, of communiceer je dat mensen alleen je product kopen als ze het echt nodig hebben, zoals Patagonia doet? Je moet er goed over nadenken, want er wordt steeds meer transparant. Zoals gezegd, dat ligt naar mijn mening enerzijds aan de enorme groei van AI, dat soms wordt omschreven als een “Blackbox technologie” waar je data instopt zonder dat je goed weet wat ermee gebeurt en wat de uitkomsten van het algoritme zijn. Dat vinden overheden en het publiek terecht “eng” en daarom nu de toegenomen aandacht voor transparantie. Maar de transparantie komt ook door het tijdsgewricht, waarbij gelukkig steeds meer de nadruk komt te liggen bij gelijkheid, gezondheid en milieu.”

Digitale transitie

De digitale transformatie is bij veel organisaties nog in volle gang. Zeker bij ondernemingen die wat groter van omvang zijn blijkt het lastig om met al het personeel de gewenste veranderingen door te maken.

“Veel bedrijven proberen hun mensen wel mee te nemen in de digitale transformatie”, aldus Salomon, “maar sommige mensen hebben nu eenmaal niet de achtergrond of interesse om meegenomen te worden in een technisch moeilijk onderwerp. Het onderwijs kan een grote rol spelen bij succesvolle digitale transformaties. Niet alleen het academisch onderwijs, maar ook bijvoorbeeld de MBO instellingen. MBO studenten gaan later misschien geen algoritmiek ontwikkelen, maar ze zouden prima toepassingen kunnen gebruiken waarin AI een belangrijke rol speelt. Besteed binnen het MBO dus aandacht aan het gebruik van AI algoritmiek. Als we mensen goed opleiden kunnen er steeds meer mensen meekomen in de digitale transformatie. Gelukkig gaat het nu al de goede kant op. Aan de UvA zien we een enorm toegenomen belangstelling voor business analytics, econometrie en kunstmatige intelligentie. Die studentenaantallen liggen veel hoger dan pakweg vijf jaar geleden.”

“Besteed binnen het MBO aandacht aan het gebruik van AI algoritmiek."

Hoe kan onderwijs het bedrijfsleven helpen om de transitie zo soepel mogelijk te laten verlopen?

“Binnen de Analytics Academy hebben we tijdens de opleiding Big Data For Managers al heel veel mensen bijgepraat over de issues die er spelen en welke mensen je daarbij nodig hebt. Wij hoopten daarmee ambassadeurs te creëren die de ideeën en interesse zelf verder zouden verspreiden in hun organisatie. Ons onderwijs is sterk project-gestuurd: neem gerust je eigen project mee, dan gaan we brainstormen over hoe je AI kunt inschakelen in jouw bedrijf. Dat is gelukt. Zo hebben we onder meer het Havenbedrijf Rotterdam en DPG Media geholpen om binnen een paar weken AI in te zetten. Momenteel zijn we bezig een opleiding op het gebied van de ethische en privacyvraagstukken waar dit artikel over gaat te ontwikkelen. We richten ons bij die opleiding op commissarissen, hoger management en andere geïnteresseerden. We blijven ons opleidingsaanbod innoveren. Aansluiting bij de vraag vanuit de markt is voor ons key, ook omdat onze docenten het interessanter vinden om nieuwe dingen te doen dan het herkauwen van dingen die ze al 1000 keer gedaan hebben.”

Kennis en infrastructuur

In hoeverre heeft de coronacrisis impact gehad op het onderwijs de afgelopen anderhalf jaar?

“We hebben ervaring kunnen opdoen met wat er werkt en wat er niet werkt in online onderwijs. De basisstof stampen: dat gaat heel goed online. Maar werkcolleges waar je samen iets bouwt of creëert moet je absoluut niet online willen doen. Ik heb ook geleerd dat we de Analytics Academy niet moeten positioneren als online lesgever. Wij zijn juist goed in het individueel overdragen van heel hoogwaardige kennis aan studenten.”

Tot slot nog een geopolitiek punt: in Europa bouwen we AI-applicaties voornamelijk op Amerikaanse en Chinese infrastructuur. Jij vindt dat onverstandig?

“Onverstandig is nog zwak uitgedrukt, het komt dichter bij dom. Microsoft is een Amerikaans bedrijf en de Amerikaanse overheid kan alle data bij hen opvragen. We weten niet wat er met onze privacy gebeurt. De Tweede Wereldoorlog heeft aangetoond dat dat heel fout kan aflopen. Daarnaast kan deze ontwikkeling er voor zorgen dat alle hoogwaardige banen op een gegeven moment in China en Amerika zijn, waardoor we veel talent kwijtraken. We moeten dat niet willen. We moeten zelf alternatieven bouwen in Europa, voor Cloud en voor AI algoritmiek. Ik zie echter met lede ogen aan dat Europa ondanks projecten als GAIA X niets te bieden heeft. Ik heb echter nog wel hoop dat steeds meer mensen gaan inzien dat dit niet de goede richting is. En dat dit omgezet wordt in eigen infrastructuren. ”

“Het bouwen van AI applicaties op Amerikaanse en Chinese infrastructuur kan ervoor zorgen dat alle hoogwaardige banen op een gegeven moment in China en Amerika zijn, waardoor we in Europa veel talent kwijtraken."

Over de geïnterviewde

Prof. dr. Marc Salomon is onder meer hoogleraar Decision Sciences aan de Universiteit van Amsterdam en voorzitter van de Amsterdam Business School. Voor zijn komst naar de UvA was Salomon COO bij advocaten- en notariskantoor Stibbe (2004-2013), COO en Directeur Research bij strategieconsultant McKinsey & Company (1998-2004) en directeur van het Centrum voor Toegepaste Wiskunde bij Rabobank (1996-1998). Van 1996 tot 2005 was hij tevens als hoogleraar Operationele Research verbonden aan de Universiteit van Tilburg. Salomon studeerde Econometrie aan de Vrije Universiteit Amsterdam en promoveerde in de Bedrijfskunde/Operationele Research aan de Erasmus Universiteit Rotterdam.

Dit interview is afgenomen door Robert Monné, Practice Lead Organizational Development en Arjan Gras, interviewer.