Data en algoritmen: een vloek of een zegen?

Volgens Wikipedia is een algoritme een recept om een wiskundig of informatica-probleem op te lossen: een reeks instructies die vanuit een gegeven begintoestand naar een beoogd doel met een duidelijk resultaat leidt.

Een praktisch voorbeeld: stel, je wilt een collecte houden in je stad. Je kent de opbrengsten per collectant en stadswijken van de afgelopen jaren. Helaas kom je nu collectanten tekort. Een keuze kan zijn om alleen in die wijken te collecteren, waarin je de afgelopen jaren relatief de hoogste opbrengsten had. Met behulp van een eenvoudig algoritme kun je dit bepalen.

Met data en slimme algoritmen kun je veel bereiken, maar er zitten adders onder het gras...

“Destijds kende bijna niemand dit woord, vandaag de dag iedereen en het lijkt iets vreselijks: een algoritme is iets ondoorzichtigs, iets dat discrimineert, wat je in het verkeerde bakje kan plaatsen.”

Een vergelijkbare methode kan de politie toepassen: als er te weinig agenten zijn om overal de orde te handhaven en incidenten op te lossen, kan de politie ervoor kiezen de agenten vooral in te zetten in die wijken, waar in het verleden veel incidenten waren en weinig te doen met de incidenten in de andere wijken. Maar je voelt al aan dat dit kan schuren. De aanname voor de wijken is 'eens een dief, altijd een dief'. Daarnaast wordt de tweedeling tussen goede en slechte wijken alleen maar groter als er minder toezicht is op incidenten in de goede wijken. Voorzichtigheid is dus geboden.

Veel data is interessant, het is 'de nieuwe olie'. Maar ook: wie de data heeft, heeft de macht. Het hele verdienmodel van bijvoorbeeld Google of Facebook is hierop gebaseerd. Het feit dat een dienst voor jou gratis is, betekent als keerzijde dat je inlevert op je privacy. Van jouw data leren ze en verkopen zij door voor gerichte advertenties. Evenzo onthouden sociale media wie jij bent en wat voor type informatie jou interesseert, dit heet profilering. Op basis van jouw profiel selecteert een algoritme voor jou nieuwe artikelen. Fijn natuurlijk, maar je mist hierdoor het tegengeluid. Zo krijg je een eendimensionaal beeld over een bepaald onderwerp.

Overheden vergaren ook data, denk maar aan China met gezichtsherkenning en camera’s. Ook de EU legt steeds meer informatie vast, bijvoorbeeld het digitale coronacertificaat en digitale paspoort.

Naast nadelen en risico's hebben algoritmen ook grote voordelen. Er zijn veel problemen en uitdagingen die zonder algoritmen en data tot grote rampen leiden. Uit de vele voorbeelden licht ik er een paar toe.

Allereerst helpen algoritmen om de behandeling bij ziektes te verbeteren. Algoritmen spelen een cruciale rol in de behandeling van vele ziektes, bijvoorbeeld bij het bestralen van kankercellen. Bij inwendige bestraling (brachy- of curietherapie) worden er naalden ingebracht, waarna via die naalden radioactieve straling ingebracht wordt. De vraag is hoeveel, waar en hoe diep deze naalden te plaatsen, zodanig dat de kankercellen zoveel mogelijk geraakt worden en de overige cellen niet. Met behulp van algoritmen kunnen levens gered worden.

Ten tweede helpen algoritmen bijvoorbeeld de duurzaamheidsdoelstellingen van de Verenigde Naties te halen. In 2015 heeft de Verenigde Naties 17 duurzaamheidsdoelen vastgesteld voor 2030: de Sustainable Development Goals (SDGs). SDG-2 is het doel om in 2030 geen honger meer in de wereld te hebben. Het Wereldvoedselprogramma speelt een belangrijke rol in de voedselvoorziening van vluchtelingen. Met behulp van algoritmen bepalen zij de meest efficiënte logistieke keten. Daarnaast nemen ze voedseleisen mee in het algoritme zodat ook de menu’s worden geoptimaliseerd. Hierdoor wordt jaarlijks 150 miljoen dollar bespaard, oftewel, 2 miljoen extra vluchtelingen gevoed.

Algoritmen worden vaker ingezet, en zijn van steeds grotere invloed op mens en organisatie. In alle situaties behoren mensen een eerlijke behandeling te krijgen. Het is dan ook belangrijk om steeds meer eerlijkheidsaspecten toe te voegen aan algoritmen. Ondanks alle inspanningen zullen algoritmen echter nooit perfect eerlijk worden. Er bestaat geen heilige graal in eerlijkheid; en wat we eerlijk vinden verandert ook nog eens met de tijd. Keuzes zijn vaak subjectief, maar met algoritmen kan het wel objectiever.

De aandacht voor eerlijkheid en objectiviteit neemt gelukkig toe onder druk van wet- en regelgeving, de media en de maatschappij. Kunnen we onbevangen kijken naar de ander zonder vooroordelen? Een algoritme werkt namelijk per definitie met regels en aannames, waardoor je bepaalde aspecten uitsluit of juist insluit. Maar ook al neem je deze aspecten mee in je algoritmen, dan nog kan het door de data leiden tot ongewenste uitkomsten. Het is niet het algoritme dat wel of niet deugt. Het is de toepassing ervan die wel of niet deugt.

“Er bestaat geen heilige graal in eerlijkheid; en wat we eerlijk vinden verandert ook nog eens met de tijd. Keuzes zijn vaak subjectief, maar met algoritmen kan het wel objectiever.”