Justid start met algoritmeregister
De Justitiële Informatiedienst (Justid) stelt als een van de eerste organisaties binnen het ministerie van Justitie en Veiligheid (JenV) een algoritmeregister beschikbaar op zijn website. Met dit register wil Justid inzicht geven in de algoritmes die door de organisatie worden gebruikt en op welke manier deze bijdragen aan de dienstverlening. Ook heeft Justid bijgedragen aan de opzet van andere algoritmeregisters binnen JenV. Afgelopen donderdag werden met een gezamenlijke 'druk op de knop' in Den Haag de algoritmeregisters van JenV officieel gelanceerd.
Data scientist Demi Lamers en manager Persoonsinformatie Marion Koopman zijn namens Justid betrokken geweest bij de opzet en de eerste invulling van het algoritmeregister. “We hopen dat dat we met het bieden van meer transparantie over de inzet van algoritmes bij kunnen dragen aan meer inzicht en begrip.”
Recept
Justid is één van de eerste organisaties die een start maakt met het publiceren van algoritmes, samen met onder meer het NFI en het CJIB. Een algoritme is een soort recept: het is een aantal stappen die een computerprogramma uitvoert om tot een doel te komen. Demi: “We vinden het belangrijk om transparant te zijn en om te laten zien dat we algoritmes gebruiken. Die helpen ons namelijk echt in ons werk. Ze dragen in positieve zin bij aan onze dienstverlening: ze kunnen er bijvoorbeeld voor zorgen dat een taak snel maar toch accuraat wordt uitgevoerd.” Algoritmes zijn volgens Marion verweven in organisaties en in het dagelijkse leven. “Als je een kop koffie uit een automaat haalt, dan gebruik je al een algoritme.”
De eerste beschrijvingen van algoritmes die door Justid in het algoritmeregister worden gepubliceerd, worden gebruikt bij de afdeling Persoonsinformatie van Justid. Ze worden gebruikt bij de informatieverstrekking rond detentie van veroordeelden en bij de inschrijving van personen in de Strafrechtketendatabank (SKDB). Marion: “We gebruiken algoritmes om – waar dat kan – geautomatiseerd gegevenssets te vergelijken. Je kunt daardoor snel reageren, je hebt de informatie snel bij elkaar.” Dat is volgens Marion nodig, omdat ketenpartners bij het vaststellen van iemands identiteit graag snel duidelijkheid willen hebben. “Belangrijk is wel dat je altijd een medewerker in moet kunnen schakelen, bijvoorbeeld als een situatie te complex wordt voor een algoritme.” Als voorbeeld geeft ze het algoritme dat aan de SKDB verbonden is. “Het algoritme schakelt automatisch een medewerker in als er twijfel is over de identiteit van de persoon.”
Transparantie
Waarom heeft Justid een algoritmeregister opgezet? Transparantie is een belangrijke reden, aldus Marion. Volgens haar is het goed om duidelijk te maken wat een algoritme wel en niet doet. “We willen richting de maatschappij inzichtelijk maken wat een algoritme doet en waarom we een algoritme inzetten.” Demi: “Het algoritmeregister op de website begint met twee algemene en toegankelijke vragen. Iedereen moet kunnen zien: dit is de taak die we uitvoeren en dit is waarom we daar een algoritme bij gebruiken. Dat is de hoofdboodschap. Daarna komen er nog een aantal verdiepende vragen. “
Justid heeft ervoor gekozen om zijn algoritmes ‘stapsgewijs’ te publiceren. Demi: “Als we alle relevante algoritmes van Justid in één keer zouden publiceren, dan zou dat wel een jaar in beslag kunnen nemen. We willen nu graag de beschrijvingen van deze eerste twee algoritmes naar buiten brengen om in een vroeg stadium al informatie te kunnen delen. We kunnen dan stapsgewijs en ook lerende wijs de volgende algoritmes toevoegen, waarbij we de reacties van mensen op deze eerste versie van het algoritmeregister kunnen meenemen in de verdere ontwikkeling.” “Het past ook in de wens om agile te werken, dat je niet alles eerst helemaal uitdenkt en dan pas publiceert”, vult Marion aan.
Handvat
In een werkgroep met verschillende organisaties van het ministerie van JenV is volgens Demi een handvat gemaakt dat helpt bij de inventarisatie van algoritmes. “In elk computerprogramma zitten enorm veel algoritmes. Het is niet uitvoerbaar om deze allemaal te publiceren. Er is nog geen vastgestelde definitie van wat een hoog-risico algoritme is. Daarom kijken we nu naar algoritmes die volgens de concepttekst van de aankomende AI-act worden gezien als hoog-risico, algoritmes die impact hebben op burgers, of die technisch ingewikkeld zijn. De processen waarbij de twee algoritmes in ons register worden gebruikt hebben duidelijk impact op de betrokken burgers. Vanuit dat perspectief hebben we voor de huidige twee algoritmes gekozen als startpunt.”
Marion: “Persoonsinformatie is een maatschappelijk relevant domein, een onderwerp waarop mensen kritisch zijn. Wat gebeurt daar? Daar is het volgens mij dan juist belangrijk om transparant te zijn over wat je doet.” Volgens haar kan het proces van het vaststellen van een identiteit veel impact op de burger hebben, niet zozeer de algoritmes zelf. “Als we handmatig een identiteit vaststellen, dan heeft dat hetzelfde effect als een algoritme dat zou doen.”
Beschrijving
Hoe kom je tot een beschrijving van een algoritme? Marion: “Dat hebben we samen gedaan. Wij weten wat het algoritme doet, Demi heeft vervolgens meegedacht over de manier om het begrijpelijk en volgens een vast stramien te beschrijven. Wat is voor burgers relevant en hoe maak je het begrijpelijk?” Demi: “De acht vragen die beantwoord worden in de tekst zijn vastgesteld in de JenV-brede werkgroep. Voor de antwoorden op deze vragen stonden we zelf aan de lat en daarbij hebben we veel verschillende mensen en afdelingen betrokken: Marion als manager natuurlijk, maar ook de product-owner, beveiliging, privacy, juridisch, communicatie, strategie en de betrokken ketenpartner. Daarna hebben we in een nota het proces vastgesteld waarin de leerpunten zijn verwerkt.” Op deze manier kan de werkwijze binnen Justid bij de nog te publiceren algoritmes worden herhaald.
Justid publiceert niet alleen een eigen algoritmeregister, de dienst helpt andere organisaties binnen JenV ook met het publiceren van hun eigen algoritmeregisters. Demi: “We hebben van het AI-beleidsteam van JenV het verzoek gekregen om de realisatie van de webpagina’s op ons te nemen. Daarbij hebben we een landingspagina op de website van JenV opgezet en ondersteunen we andere organisaties bij het publiceren van hun algoritmes.”
Webpagina
Een register: het klinkt alsof het een bestand is, maar het is eigenlijk een webpagina. Demi: “De JenV-werkgroep die zich met het algoritmeregister heeft beziggehouden, staat onder leiding van het AI-beleidsteam in samenwerking met de directie Informatievoorziening en Inkoop (DI&I). We hebben in deze werkgroep het voortouw genomen door een 'mock-up' te bouwen die een beeld gaf van hoe het register eruit zou kunnen gaan zien. We trekken bij de realisatie van de webpagina's van het algoritmeregister op met onze eigen afdeling Portalen en Samenwerking. Zo hebben we bijvoorbeeld handleidingen voor ketenpartners geschreven over hoe ze hun eigen algoritmes kunnen publiceren.” Als dit op een eenduidige manier gebeurt, dan kunnen volgens Demi belangstellenden straks op een vergelijkbare manier bij organisaties binnen JenV informatie over algoritmes vinden.
Hoe gaat het nu verder? “We zijn allereerst benieuwd naar de reacties en we gaan kijken wat we daarvan kunnen leren”, antwoordt Demi. “Vervolgens gaan we verder met het inventariseren van andere relevante algoritmes binnen Justid die we kunnen publiceren. Daarnaast kijken we binnen JenV of er nog behoefte is aan ondersteuning vanuit Justid.” Marion: “Uiteindelijk is het publiceren van algoritmes een verantwoordelijkheid van elke individuele organisatie.”