Algoritmewijzer: de kijkwijzer voor data en algoritmes

We maken bijna dagelijks gebruik van algoritmen, vaak zonder erbij stil te staan. Van het plannen van je reis tot het selecteren van de juiste zorgverzekering. Organisaties zetten algoritmen, en in toenemende mate Artificial Intelligence (AI), in om data te kunnen benutten voor het verbeteren van processen of dienstverlening.

Met het toenemend gebruik wordt de vraag om het verantwoord omgaan met algoritmen steeds sterker. Met name voor algoritmen waarbij we niet meer kunnen herleiden hoe een resultaat tot stand is gekomen, of in situaties waar een algoritme komt tot een onwenselijk resultaat. Steeds vaker blijkt dat er zorgen zijn bij het publiek en de politiek over de inzet van algoritmen. Met name het gebrek aan transparantie baart burgers zorgen.

Een uitdaging voor zowel publieke als private organisaties. Aanleiding voor InnoValor om in het samenwerkingsprogramma Digital We een oplossing te ontwikkelen die de bewustwording en kennis bij eindgebruikers vergroot zodat ze bewust kunnen handelen bij het gebruik van algoritmen: de Algoritmewijzer. Op deze manier worden gebruikers snel en overzichtelijk visueel geïnformeerd over de belangrijkste kenmerken van het algoritme en de gebruikte data.

De Algoritmewijzer is een iteratief proces ontwikkeld, waarin verschillende design sprints zijn uitgevoerd. Hierin zijn verschillende prototypes ontwikkeld en gevalideerd. Experts uit zowel de wetenschap als de praktijk hebben bijgedragen om tot de juiste set van kenmerken te komen. Daarnaast hebben meer dan 400 burgers meegewerkt aan onderzoeks- en validatieactiviteiten, om tot een gedragen oplossing te komen.

Uit de verschillende onderzoeken zijn uiteindelijk zes kenmerken gekomen. Wanneer een digitale dienst gebruik maakt van een algoritme worden zes symbolen getoond die informatie geven over: gebruik van persoonsgegevens, het algoritme zelf een beslissing neemt, de betrokkenheid van een mens, transparantie over het algoritme, datadelen met derden en contactmogelijkheden. Extra informatie over de invulling achter de symbolen kan eenvoudig worden ingezien, bijvoorbeeld welke persoonlijke data wordt gebruikt en met welke reden.

Tot het einde van het jaar wordt de Algoritmewijzer toegepast op diensten van Kadaster en RVO. Doel is om de Algoritmewijzer uiteindelijk toe te passen op, in eerste instantie, alle overheidsdiensten die gebruik maken van algoritmen en direct of indirect in contact staan met burgers. Zodat uiteindelijk de Algoritmewijzer ‘de kijkwijzer voor data en algoritmes’ wordt.