Transparantie en juridische adaptatie in beleidsvorming
Tijdens de laatste testronde met het prototype bevestigden beleidsmakers dat de tool weloverwogen besluitvorming bevordert. Dit dankzijn transparantie van het besluitvormingsproces te vergroten en ervoor te zorgen dat diverse perspectieven van belanghebbenden worden meegenomen. Desondanks uitten beleidsmakers van het ministerie juridische zorgen over de integratie/adaptatie van de tool.
Experts uitten zorgen dat het hulpmiddel bepaalde perspectieven, met name die van menselijke belanghebbenden, zou kunnen isoleren.
Om objectiviteit te benadrukken, bevalen de experts aan om alle menselijke belanghebbenden op te nemen in de instelling van de lens en hen een stem te geven in het dashboard.
Op basis van feedback van een expert over gebruikers en rollen is het profiel van de gebruiker zelf toegevoegd, om de hiërarchische rol van de gebruiker binnen het systeem te definiëren.
0. Stel een ‘perspectief’-lens in voor het AI-model om geüploade conceptdocumenten te analyseren.
1. Upload beleidsgerelateerde bestanden
Er is een samenvatting van de geüploade bestanden toegevoegd, om de interpretatie van de AI van deze bestanden in context te plaatsen en als feedback aan de gebruiker te presenteren.
2. Dashboard met de reactie van de lens(en) en datavisualisaties (gebaseerd op de geüploade bestanden)
Experts wezen erop dat, om vertrouwen op te bouwen, transparantie verder moet gaan dan alleen zoekgeschiedenis. Ze bepleitten een omvattend overzicht van het besluitvormingsproces, om de communicatie tussen beleidsmakers en belanghebbenden te verbeteren. Daarom is een wijzigingenlog ('change log') geïntroduceerd.
Er is meer context toegevoegd aan de AI-vertrouwensindicator; wat is op basis van menselijke beoordeling.
3. Richtlijnen voor verbeteringen op basis van de lens en het geselecteerde datavisualisatiescenario
Het gevoel van controle en autonomie is versterkt, op basis van gebruikersfeedback, door gebruikers in staat te stellen de voorgestelde richtlijnen – gegenereerd op basis van de (eerdere) parameters – zelf aan te passen.
AI Discosure
Er is een grafische weergave van de werking van het AI model toegevoegd, samen met een menselijke uitleg, om de transparantie te vergroten op basis van feedback van experts.