Verantwoord gebruik van algoritmen en AI hoog op politieke agenda

De vraag naar ethisch verantwoorde AI-toepassingen en algoritmen wordt steeds groter. De ontwikkeling daarvan is alleen niet zo makkelijk. Want wanneer is iets ethisch verantwoord? En hoe kan ethiek toegepast worden in een AI-toepassing zodat het een verrijking wordt voor de maatschappij? Yvette Mulder, secretaris van de normcommissie Artificial Intelligence & big data, gaat in gesprek met de redactie.

Een algoritme is een wiskundige formule. Het geeft als het ware een instructie in programmeertaal aan een AI-toepassing. Sommige algoritmen geven toepassingen de instructie om zelfstandig te leren of ingewikkelde beslissingen te nemen op basis van een grote hoeveelheid data. Daardoor wordt het lastig na te gaan en te begrijpen wat een algoritme precies doet en of dat verantwoord is.

Algoritmen en AI komen in steeds meer toepassingen voor. De Nederlandse overheid onderschrijft het belang van het verantwoord toepassen van algoritmen. Maar hoe doen we dat precies? Minister Sander Dekker en staatssecretarissen Mona Keijzer en Raymond Knops publiceerden hierover een Kamerbrief. Daarin werden internationale standaarden aangewezen als belangrijk instrument voor grip op algoritmen.

Algoritmen en artificial intelligence

Veel producten en diensten maken gebruik van algoritmen, maar ook steeds vaker van artificial intelligence (AI). Yvette Mulder, secretaris van de normcommissie AI, legt uit wat het verschil tussen algoritmen en AI is: ‘In de basis is er niet echt een groot verschil. Een algoritme is een soort wiskundige formule, die wordt ingezet om een probleem op te lossen, zoals data-analyse. Dat kan ook zonder AI. Als AI om de hoek komt kijken, wordt soms alleen onduidelijker hoe een AI-toepassing door zijn algoritmen tot voorspellingen en acties komt. Zoek je bijvoorbeeld naar kattenplaatjes op internet, dan kan het zijn dat er ook hondenplaatjes verschijnen, omdat je dat waarschijnlijk ook interessant vindt. Dat kan een goede uitkomst zijn wanneer de ‘instructie’ is: zoveel mogelijk relevante informatie geven. Het is een foute uitkomst als de bedoeling is om alleen informatie over katten op te leveren. Dat maakt met kattenplaatjes niet zoveel uit, maar als dat een medische analyse is of gaat om opsporing van criminelen, dan hangt er heel veel vanaf wat er precies in dat algoritme gebeurt.’

AI tegenover het menselijk brein

Artificial intelligence bootst menselijke competenties na, zoals het denkvermogen, visuele herkenning en taalbegrip. Apparaten denken voor je na op basis van algoritmen. Gevoed door data nemen sommige AI-toepassingen deels autonome beslissingen. Voor velen klinkt dat angstig. Wordt ons menselijk brein dan overbodig? Andere zien vooral de enorme kansen. ‘Velen vinden AI óf helemaal te gek, óf zijn er huiverig voor. We willen vanuit de normcommissie mensen laten nadenken over AI, dat er ook een middenweg is. De maatschappij kan enorm veel aan AI hebben, maar voor bepaalde aspecten moeten duidelijke richtlijnen komen, bijvoorbeeld voor het ethische gedeelte, risicomanagement en privacy. Tegelijkertijd valt dit helemaal niet waterdicht te maken: ethiek laat zich niet generiek vatten voor alle AI-toepassingen. Het draait vooral om het maken van de juiste ethische afwegingen en controle of hierbij onderbouwde beslissingen zijn genomen die berusten op normen en best practices’, aldus Yvette.

AI in tijden van COVID-19

‘Het lastige van AI is dat er ook beslissingen worden gemaakt waarvan je niet weet waar die vandaan komen. Dat voelt voor velen niet prettig’, legt Yvette uit. Maar AI kan een belangrijke rol gaan spelen in onze maatschappij. Ook nu in tijden van COVID-19. Bijvoorbeeld in apps waar data wordt verzameld over COVID-19 besmettingen. AI zou er mogelijk aan bij kunnen dragen om besmettingen vast te stellen en behandelmogelijkheden te verbeteren. Maar zodra hier data voor nodig is, wordt privacy een aandachtspunt. Hier moet dus een goede afweging worden gemaakt tussen de mate waarin we data kunnen en mogen gebruiken en wat dit oplevert in de strijd tegen COVID-19. In standaarden staan richtlijnen voor het maken van die afwegingen, zoals hoe je risico’s vermijdt rondom het schenden van privacy.

Internationale standaarden

In de Kamerbrief van Dekker, Keijzer en Knops wordt standaardisatie als onderdeel genoemd voor het verantwoord omgaan met algoritmen. Deze worden wereldwijd ontwikkeld bij ISO. In deze standaarden staan breed gedragen afspraken en richtlijnen over de omgang met AI. Deze beslaan het hele spectrum, van richtlijnen voor technische ontwikkeling van AI-toepassing en inrichting van big data management tot het beperken van bias, het bewaken van robuustheid en andere ethische vereisten. Op die manier dragen standaarden bij aan verantwoorde en efficiënte toepassing van AI.

De normcommissie Artificial intelligence & big data bij NEN schrijft mee aan die internationale standaarden. Op dit moment staan daar de onderwerpen betrouwbaarheid, risicomanagement en ethiek hoog op de agenda. Vooral risicomanagement (ISO/IEC 23894) is tastbaar en wordt als een startpunt gezien voor de ontwikkeling van andere standaarden.

Nederlandse AI-coalitie

De NEN normcommissie Artificial intelligence & big data is sinds kort ook aangesloten bij de Nederlandse AI-coalitie (NLAIC). De NLAIC is een publiek-privaat initiatief, waarbij overheid, bedrijfsleven, onderwijs- en onderzoeksinstellingen en maatschappelijke organisaties samenwerken. De coalitie heeft als doel de Nederlandse activiteiten in AI te stimuleren, te ondersteunen en waar nodig te organiseren. NEN maakt hierin de verbinding met standaardisatie.

Lancering NEN Platform AI lancering tijdens webinar

In aanvulling op de normcommissie, start op 30 juni 2020 Platform AI, waarvan de deelnemers sparringspartners zijn van de normcommissie. Leden van het platform blijven op de hoogte van nieuwe standaarden, nieuwe voorstellen hiervoor en correlatie met (inter)nationale wet- en regelgeving, maar hebben geen directe invloed op de standaarden. Deelname levert dus kennis op, maar vraagt minder tijdsinvestering en nauwe betrokkenheid dan deelname aan de normcommissie.

Op 30 juni, van 9.30 tot 12.00 uur, wordt dit platform gelanceerd tijdens het webinar Artificial intelligence: ethische afwegingen en standaarden. Het webinar wordt georganiseerd in een samenwerking van NEN met Rudy van Belkom, Toekomstonderzoeker bij Stichting Toekomstbeeld der Techniek (STT). Meld je nu aan voor het webinar, deelname is kosteloos. Meer informatie over het platform is te vinden op www.nen.nl/ai

Meer informatie

Er zijn dus vele initiatieven op het gebied van AI die een verantwoorde manier van algoritmen en AI mogelijk kunnen maken. Wil je meer weten over de ontwikkelingen waar NEN aan meewerkt en standaarden die worden ontwikkeld? Neem dan contact op met Yvette Mulder, e-mail naar kid@nen.nl.