‘Ethische discussie over data is cruciaal’

Marloes Pomp wordt in Nederland en in het buitenland erkend als een absolute autoriteit op het gebied van AI en blockchain. Dat uit zich bijvoorbeeld door het feit dat zij op geregelde basis de Nederlandse overheid adviseert op het gebied van deze technologieën. En ook door haar belangrijke rol binnen in de Dutch Blockchain Coalition en de Nederlandse AI Coalitie. Zij gaat in gesprek met Vincent van Mierlo, die ruim dertien jaar ervaring heeft met digitale infrastructuur bij veel overheidsinstanties.

Vincent van Mierlo: ‘Als je kijkt naar de technologische ontwikkelingen tot niet al te lang geleden, dan waren die vaak gericht op het vervangen van menselijke spierkracht. De mensen die het zogenoemde ‘denkwerk’ verrichtten, bleven als het ware buiten schot en hadden doorgaans ook een betere positie op de arbeidsmarkt. Met Artificial Intelligence wordt echter niet alleen spierkracht maar ook het denkwerk vervangen. Een algoritme kan straks als vervanging voor een dokter of advocaat dienen. Kom jij tot dezelfde conclusie?’

Marloes Pomp: ‘Eigenlijk ben ik verbaasd dat het nog zo weinig speelt. Bij doktoren zie ik dat zij zowel bij de opleidingen als in de praktijk met AI leren werken. In de eerste instantie zijn zij wat sceptisch: ‘Kan AI mijn werk wel beter doen?’ Maar als zij er eenmaal mee aan de slag gaan, dan zie ik dat zij al vrij snel tot de conclusie komen dat het vooral handig is. Eenzelfde ontwikkeling speelt zich af in de rechtspraak. Advocaten die met AI werken, denken niet dat daarmee hun werk verdwijnt. Die zien ook weer dat het goede ondersteuning biedt, door bijvoorbeeld automatisch bepaalde teksten in te vullen of door alle relevante jurisprudentie voor een bepaalde zaak te verzamelen. Dat zie je in andere sectoren ook. Ik heb in de praktijk eigenlijk vrijwel geen voorbeelden gezien van mensen die niet blij zijn om met AI-systemen te werken. En wat betreft de angst om door AI-systemen te worden vervangen: voor een deel van de werkzaamheden geldt dat inderdaad. Maar uiteindelijk is er ook een grote hoeveelheid werk waarbij mensen nog steeds onontbeerlijk zijn: van schilderwerk tot het verplegen van zieken.’

Vincent van Mierlo: ‘Op nationaal niveau heb je al diverse technologische initiatieven waarin het hoofdstuk ‘data’ een hoofdrol speelt. Informatie vormt immers de basis voor alle AI-systemen. Neem alleen al het Amsterdam Smart City-initiatief waar Eurofiber ook in participeert. Daarin zijn diverse partijen – zoals overheid en bedrijfsleven – vertegenwoordigd en worden er goede discussies over dat thema gevoerd.’

‘In Nederland zijn we relatief goed in het samenbrengen van de diverse partijen, dat zie je inderdaad door middel van publiek-private samenwerkingen. In het geval van het Amsterdam City-initiatief zou het goed zijn om ook de burgers bij dit thema te betrekken. Zij zouden hun mening moeten geven over vragen als welke data worden van wie op welk moment vergaard? En wat wordt er door welke organisaties met de data gedaan? In sommige sectoren wordt ook de oorsprong van de data continu, bijvoorbeeld door middel van blockchain, gecontroleerd. Want dat is een ander belangrijk aspect van de ethische datadiscussie. In de gezondheidszorg is dat redelijk overzichtelijk. Het wordt echter complexer in andere branches, zoals de energiesector. Neem de zogenoemde ‘peer-to-peer’ verhandeling van energie. Daarbij wordt door diverse partijen – zowel consumenten als bedrijven – de eigen opgewekte groene energie onderling verhandeld. Je wilt er daarbij zeker van zijn dat de aangeleverde elektriciteit inderdaad is opgewekt door windmolens of zonnecellen. Je moet van windmolen X weten dat het bepaalde groene energie heeft aangeleverd. Ik zie steeds meer dat een technologie als blockchain voor dat soort complexe zaken wordt gebruikt om ervoor te zorgen dat de oorsprong gecertificeerd wordt vastgelegd om te voorkomen dat er fraude wordt gepleegd. Het is ook een belangrijk punt bij AI-oplossingen: je moet zeker weten dat de oorsprong van de aangeleverde data bonafide is.’

Vincent van Mierlo: ‘De AI-toepassingen kunnen niet zonder data, gedigitaliseerde kennis en kunde om het zo te zeggen. Dankzij de digitale infrastructuur, zoals glasvezelnetwerken, kunnen data tegenwoordig overal worden vergaard en opgeslagen In de pers, en ook bij instanties zoals de Europese Commissie, wordt de laatste tijd ook over andere aspecten van het datavraagstuk gesproken, zoals: van wie is de data, hoe betrouwbaar is de data, hoe is die te delen en hoe wordt ermee omgegaan?’

‘Het data-vraagstuk is één van de belangrijkste thema’s in alle AI-projecten. Je hebt elkaars data nodig. Er wordt veel gesproken over data delen, maar uiteindelijk gaan het altijd om data governance: hoe regel je het met elkaar en van wie is die data? Die discussies verschillen wel per sector. Neem de mobiliteitsbranche. Daar zie je dat bepaalde bedrijven, zoals de autofabrikant Tesla van Elon Musk, alle gebruikersdata hebben. Daar zit natuurlijk ook een ethische discussie aan vast, want vinden wij dat eigenlijk wel ok? Het gaat immers ook om privacygevoelige informatie. Ik rij zelf ook een Tesla. En zij weten precies waar ik ben geweest en kunnen daar patronen in herkennen. In de gezondheidszorg zitten de data weer bij organisaties zoals ziekenhuizen en farmaceuten. Hoe ga je daar om met het delen van gevoelige data? In heel veel gevallen wordt de data niet gedeeld, maar is er een zogenoemde ‘governance structuur’ opgetuigd. Een goed en actueel voorbeeld is het beschikbaar stellen van longfoto’s tijdens de coronapandemie. Om die foto’s te delen, zodat AI-algoritmes ze kunnen beoordelen, is een model gemaakt voor ‘federated learning’. Er werden algoritmes gebouwd om longfoto’s te beoordelen en zo te zien wat er aan de hand is. Die systemen waren bij de ziekenhuizen zelf neergezet. Het ‘leerproces’ van die lokale algoritmes en de uiteindelijke beoordelingen van de foto’s werden vervolgens met een centraal algoritme gedeeld. Het resultaat was dat het centrale algoritme veel sneller leerde dan de lokale varianten. Het bereikte zelfs een accuratesse van zo’n 95 tot 98 procent. Het mooie was dat het centrale algoritme dat weer teruggaf aan de lokale algoritmes. Die op hun beurt weer vrij snel op eenzelfde percentage kwamen. Zonder dat je gevoelige data heen en weer moest sturen. Door op een dergelijke wijze samen te werken, zowel op nationaal als Europees niveau, kom je op het gewenste kwaliteitsniveau. Dat is volgens mij ook de enige manier om langszij de grote techbedrijven te komen die nu veelal de grootste datapartijen zijn. En dan nog is het de vraag of wij het gaan redden tegen de Google’s en de Facebooks, die zijn er al immers veel langer mee bezig. Het is zeker geen gelopen race, maar we moeten er wel volop tegenaan gaan.’