Waterzicht 017: Goede oordeelsvorming met AI?

Ik moet hier vaak aan denken bij de discussies over artificiële intelligentie. Laat ik vooropstellen dat ook ik onder de indruk ben van de snelheid waarmee AI-toepassingen zich ontwikkelen. Ik gebruik AI zelf ook, maar niet om mijn blogs te schrijven 😊 -ook al zei Rutger Bregman onlangs in een gesprek met Jesse Freriks dat we dat taboe misschien maar eens moesten doorbreken.

De kernvraag is voor mij niet of we AI moeten gebruiken, maar hoe we voorkomen dat het ons oordeel vervangt in plaats van ondersteunt.

Waar AI ophoudt en oordeel begint

Aan de ene kant kun je stellen dat onze hersenen ook een groot en uiterst efficiënt neuraal netwerk zijn. Bestaat er dan wel een fundamentele grens die AI niet kan slechten? Ik weet het niet. Wat ik wel constateer is dat AI nu voorspellingen doet op basis van patroonherkenning.

Als ik suggesties wil voor een mooie vakantie, kan AI op basis van mijn voorkeuren prima voorspellen wat mij aanspreekt. Dat is relatief onschuldig. De vraag die hooguit opkomt, is wat er met mijn opgegeven voorkeuren gebeurt op het ondoorzichtige internet. Worden mijn data doorverkocht? Gebruikt voor profilering waar ik niet om heb gevraagd, laat staan heb mee ingestemd?

Zodra ik mijn handelen echter wil laten sturen door AI, heb ik meer nodig dan voorspellingen op basis van correlaties. Dan wil ik vooraf inschatten wat het effect is van een handeling: oorzaak– gevolg relaties begrijpen. En dat is andere koek. Voor AI is het nog erg lastig om schijnverbanden, veroorzaakt door verborgen factoren, uit te sluiten.

Dat betekent dat data-analyses met behulp van AI altijd aangevuld moeten worden met het toetsen van onze hypotheses. Alleen zo worden AI-resultaten uitlegbaar. De mens moet dus een onmisbare schakel blijven in het besluitvormingsproces. Gelukkig maar.

Wat betekent dit voor waterschappen?

Ook de waterschappen zien veel kansen om AI te gebruiken. Het vorig jaar vastgestelde AI-Kompas biedt een bestuurlijk kader om kansen te maximaliseren en risico’s te beperken. Het past bij de ambitie om een datagedreven waterschap te worden.

Daarbij is het goed te bedenken dat data slechts de basis vormen. Data moeten leiden tot informatie, informatie tot kennis en kennis uiteindelijk tot wijze besluiten. Het kompas benoemt kansen zoals het voorspellen van wateroverlast, het optimaliseren van zuiveringsprocessen, het monitoren van de waterkwaliteit en het opvangen van krapte op de arbeidsmarkt. Tegelijkertijd wijst het op risico’s zoals de ondermijning van democratische waarden en veiligheid.

Verantwoordelijkheid nemen

Dit vraagt om meer dan het naleven van wet- en regelgeving. AI-ontwikkelingen gaan zo snel dat wet- en regelgeving deze nauwelijks kunnen bijbenen. Wijs gebruik van AI vraagt om blijvende aandacht voor digitale ethiek en soevereiniteit. Het is daarom van belang dat de Europese Unie de kracht van zijn eigen waarden veiligstelt door de afhankelijkheid van Big Tech te verminderen en eigen strategische capaciteiten op te bouwen.

European Alternatives laat zien dat er al veel Europese mogelijkheden bestaan. Zelf ben ik bijvoorbeeld overgestapt van Gmail naar Proton Mail, ontwikkeld op CERN en met een hoog niveau van privacybescherming.

AI kan ons helpen betere besluiten te nemen. Maar uiteindelijk vraagt goede besluitvorming niet om slimme systemen, maar om mensen die verantwoordelijkheid nemen voor het oordeel dat zij vellen. Heb dus vooral een goed oordeel — ook over je eigen (digitale) keuzes.