Decision-grade blueprints · Deel 2 van 4
Eén scherm, tien beslissingen
Een scherm dat eruitziet als een antwoord, is een stapel beslissingen. Tien ervan, uit het dossier van één lasser met een Pools cv.
Inhoud · 5
Dit is één van vier artikels over decision-grade blueprints: beelden van AI-producten die goed genoeg zijn om er beslissingen op te nemen, nog voor er gebouwd wordt.
Dinsdagochtend, net na half negen. Victor, consulent bij een uitzendbureau, opent het dossier van Marek. Lasser, acht jaar ervaring, cv in het Pools, solliciteert bij een metaalbedrijf. Het systeem stelt voor hem uit te nodigen voor een praktijkproef. Op het scherm staat dat in een paar regels. Het ziet eruit als een antwoord.
Het is een stapel beslissingen. Wie dat scherm ontwerpt, beslist wat Victor te zien krijgt, wat hij moet doen, wat hij niet mag zien, en wat er achteraf van overblijft. Elk van die beslissingen heeft gevolgen voor de data die je moet bewaren, voor de processen die het bureau moet hebben, voor wat de wet toelaat, en voor de kwaliteit van wat Victor uiteindelijk levert: aan zijn klant, en aan Marek.
In dit artikel neem ik dat ene scherm uit elkaar: tien beslissingen, in vier groepen.
De casus in deze reeks is fictief: een illustratief ontwerp, geen gevalideerd systeem. De mensen, het bedrijf en de data bestaan niet.
Tien beslissingen, in vier groepen
Kies een nummer op het scherm of in de rij hierboven. Het scherm zoomt in op die beslissing.
- Wat de AI vond
- Wat de mens doet
- Wat er bewust niet staat
- Wat erna komt
Beslissing 1 van 10 · Wat de AI vond
Het origineel naast de vertaling
- Op het scherm
- De vertaling is een hulpmiddel, geen waarheid. Het origineel staat er altijd naast, één klik verder.
- Wat het vraagt
- Het originele document moet bewaard en terugvindbaar blijven, niet alleen de vertaalde tekst.
Beslissing 2 van 10 · Wat de AI vond
Een bron bij elke bevinding
- Op het scherm
- “Acht jaar ervaring” verwijst naar de zinnen in het cv waarop het steunt. Victor controleert het in twee seconden.
- Wat het vraagt
- De extractie moet bijhouden waar in het document elke bevinding vandaan komt. Later krijg je dat er nauwelijks nog bij.
Beslissing 3 van 10 · Wat de AI vond
Onderbouwing in woorden
- Op het scherm
- Niet “0,82”, maar “afgeleid” of “onvolledig”, met de reden erbij: “scan half leesbaar, norm niet vermeld”.
- Wat het vraagt
- Een status per bevinding, met de reden erbij, in plaats van één getal.
Beslissing 4 van 10 · Wat de mens doet
Een actie bij elke twijfel
- Op het scherm
- Niet alleen “diploma niet te controleren”, maar ook wat Victor kan doen: een praktijkproef voorstellen.
- Wat het vraagt
- Een proces dat het bureau echt kan uitvoeren: wie organiseert de proef, waar, met welke beoordelaar.
Beslissing 5 van 10 · Wat de mens doet
Wie besliste, naast wat de AI voorstelde
- Op het scherm
- Het voorstel van het systeem en de beslissing van Victor staan apart, elk met naam en tijdstip.
- Wat het vraagt
- Twee aparte toestanden in de data, zodat een mens het systeem kan begrijpen, overschrijven en tegenhouden.
Beslissing 6 van 10 · Wat de mens doet
Overschrijven met een reden, maar zonder drempel
- Op het scherm
- Een korte lijst met redenen, of zijn eigen woorden.
- Wat het vraagt
- Redenen die als data bewaard worden: ze tonen waar het systeem zich vergist. Te veel drempel, en iedereen keurt gewoon goed.
Beslissing 7 van 10 · Wat er bewust niet staat
Wat de AI niet bekeek
- Op het scherm
- “Niet bekeken: cv, pagina 3 (scan onleesbaar); referentiebrief (formaat niet ondersteund).”
- Wat het vraagt
- Het systeem moet bijhouden wat het niet kon lezen. Zonder dat kader neemt Victor aan dat alles bekeken is.
Beslissing 8 van 10 · Wat er bewust niet staat
Gegevens die bewust ontbreken
- Op het scherm
- Geen foto, geen leeftijd, geen nationaliteit, geen burgerlijke staat. En het scherm zegt dat ook.
- Wat het vraagt
- Wat niet nodig is voor de beslissing, blijft uit het model, en idealiter uit de database die het voedt.
Beslissing 9 van 10 · Wat erna komt
Een uitleg die de kandidaat begrijpt
- Op het scherm
- Een mail in het Pools: zijn ervaring spreekt aan, zijn certificaat was op de scan niet leesbaar, daarom een praktijkproef. Met twee vragen.
- Wat het vraagt
- Sjablonen per taal, en de redenen achter het voorstel in woorden die een kandidaat kan lezen.
Beslissing 10 van 10 · Wat erna komt
De logregel
- Op het scherm
- “22/10 09:14 · voorstel=praktijkproef · beslissing=open”
- Wat het vraagt
- Gebeurtenissen die automatisch geregistreerd worden, en een bewaartermijn die iemand beslist. Pas dan kan het bureau nagaan wie vaker overschreven wordt, en in welke richting.
Wat de AI vond
1. Het origineel naast de vertaling. Het systeem vertaalt Mareks cv, maar de vertaling is een hulpmiddel, geen waarheid. Het origineel staat er altijd naast, één klik verder. Dat lijkt een detail, tot een vertaling “spawacz” correct als lasser weergeeft, maar onderweg net de specialisatie verliest die voor deze vacature het verschil maakt. Gevolg voor de bouw: het originele document moet bewaard en terugvindbaar blijven, niet alleen de vertaalde tekst.
2. Een bron bij elke bevinding. “Acht jaar ervaring” is een bewering. Op het scherm verwijst ze naar de zinnen in het cv waarop ze steunt. Zo kan Victor ze in twee seconden controleren, en kan iemand achteraf nagaan waarom het systeem dat zei. Gevolg voor de bouw: de extractie moet bijhouden waar in het document elke bevinding vandaan komt. Wie dat niet vanaf het begin ontwerpt, krijgt het er later nauwelijks nog bij.
3. Onderbouwing in woorden. Niet “0,82”, maar “afgeleid” of “onvolledig”, met de reden erbij: “scan half leesbaar, norm niet vermeld”.
Wat de mens doet
4. Een actie bij elke twijfel. Het scherm zegt niet alleen dat het diploma niet te controleren is, maar ook wat Victor kan doen: een praktijkproef voorstellen. Wie organiseert die proef, waar, met welke beoordelaar? En is ze nodig om Marek uit te nodigen, of pas om hem aan de klant voor te stellen? Een scherm dat een actie voorstelt die het bureau niet kan uitvoeren, belooft iets wat niemand waarmaakt. Zo maakt het ontwerp zichtbaar welke processen er moeten bestaan, nog voor er code geschreven is.
5. Wie besliste, naast wat de AI voorstelde. Het voorstel van het systeem en de beslissing van Victor staan apart, elk met naam en tijdstip. Zo blijft altijd duidelijk dat een mens besliste, en op basis waarvan. Voor systemen met een hoog risico vraagt de AI Act dat mensen het systeem kunnen begrijpen, overschrijven en tegenhouden; voor werving en selectie gelden die verplichtingen vanaf 2 december 2027. Een scherm dat voorstel en beslissing laat versmelten, maakt dat onmogelijk.
6. Overschrijven met een reden, maar zonder drempel. Als Victor het voorstel niet volgt, kiest hij een reden uit een korte lijst, of typt hij er zelf een. Die redenen zijn waardevoller dan ze lijken: ze vertellen waar het systeem zich vergist, en vormen de data waarmee het beter wordt. Maar de balans is fijn. Maak overschrijven te omslachtig, en mensen stoppen ermee. Dan keurt iedereen goed wat de AI voorstelt, en heb je met veel zorg precies het toezicht ontworpen dat je wilde vermijden.
Wat er bewust niet staat
7. Wat de AI niet bekeek. Rechts op het scherm staat een kort kader: “Niet bekeken: cv, pagina 3 (scan onleesbaar); referentiebrief (formaat niet ondersteund).” Met een link naar het origineel, en een vinkje voor wie het zelf bekeek. Het systeem zegt dus waar zijn blik ophoudt. Dat is misschien het goedkoopste kader op het hele scherm, en een van de waardevolste. Zonder dat kader neemt Victor aan dat alles bekeken is, en vertrouwt hij het voorstel meer dan het verdient.
8. Gegevens die bewust ontbreken. Er staat geen foto, geen leeftijd, geen nationaliteit en geen burgerlijke staat. En het scherm zegt dat ook: “Bewust niet gebruikt.” Afwezigheid zichtbaar maken lijkt overbodig, maar het verandert hoe mensen het systeem vertrouwen. Het toont dat iemand erover heeft nagedacht. Gevolg voor de bouw: wat niet nodig is voor de beslissing, komt niet in het model, en idealiter ook niet in de database die het voedt. De privacywetgeving noemt dat minimale gegevensverwerking.
Hetzelfde geldt voor de taal van het cv. Naast een naam in het kandidatenoverzicht wordt ze ongemerkt een selectiecriterium, en een omweg naar herkomst. Ze hoort bij de vertaling, naast het origineel, en bij het contact, in de taal van de mail. Is taal echt een vereiste, zoals Nederlands voor veiligheidsinstructies, dan wordt ze een vereiste met een eigen onderbouwing.
Wat erna komt
9. Een uitleg die de kandidaat begrijpt. Marek krijgt geen score te zien. Hij krijgt een mail, in het Pools, met wat er gebeurt: zijn ervaring spreekt aan, zijn certificaat was op de scan niet goed leesbaar, daarom een praktijkproef. Met nog twee vragen, over zijn VCA-attest en zijn beschikbaarheid, die Victor met één vinkje in de mail zet of weer weghaalt. Een kandidaat die begrijpt waarom, komt opdagen. Een kandidaat die een cryptische afwijzing krijgt, haakt af en vertrouwt het volgende bureau minder. De AI Act geeft mensen bovendien het recht op een duidelijke en betekenisvolle uitleg bij bepaalde beslissingen die met een hoog-risicosysteem genomen worden. Dat die uitleg in zijn eigen taal komt, eist de wet niet. Dat is een kwestie van toegankelijkheid en vertrouwen.
10. De logregel. Onopvallend voor Victor, maar het fundament onder alles. Nu staat er: “22/10 09:14 · voorstel=praktijkproef · beslissing=open”. Na zijn bevestiging komt er een regel bij: “22/10 09:21 · beslissing=akkoord, V. Berger · reden=geen.” Voor hoog-risicosystemen vraagt de AI Act dat gebeurtenissen automatisch geregistreerd worden. Maar de echte waarde zit elders. Alleen met die logs kan het bureau later nagaan of kandidaten met een buitenlands diploma vaker worden overschreven, en in welke richting. Hoe lang je die logs bewaart, is opnieuw een beslissing.
Waar die tien beslissingen vallen
Geen van deze tien duikt op in een wireframe, en geen ervan haalt de ambitieuze demo: ze maken het beeld minder spectaculair.
En toch wordt elk van die beslissingen ergens genomen: in het ontwerp, of in productie, waar ze een incident, een klacht of een audit kost.
In het ontwerp is elke beslissing zelf snel genomen. Wat tijd kost, is wat eraan voorafgaat: gesprekken met wie het scherm gebruikt, de beslisketen ontleden, nagaan wat het model werkelijk kan, de vragen voorleggen aan de jurist en de data-architect, en de antwoorden laten samenvallen in één scherm dat klopt. Dat werk maakt een beslissing van een paar minuten verantwoord.
Elke beslissing heeft bovendien een prijs in de bouw: een veld in de database, een koppeling, een proces bij het bureau, een bewaartermijn. Wie ze vóór de offerte neemt, offreert accurater. Wie ze erna ontdekt, betaalt ze als meerwerk, of als vertraging.
Dat is wat een decision-grade blueprint doet: het maakt die tien beslissingen zichtbaar op het moment dat ze nog goedkoop zijn. Het vraagt van wie het scherm ontwerpt dat hij de tien vragen kan stellen, en weet bij wie hij moet aankloppen: de data-architect, de jurist, en Victor, die om vier uur 's middags zijn twintigste dossier opent. Niet om al die antwoorden zelf te geven, maar om ze samen te brengen in één product, en aanwijsbaar te maken wie wat bevestigde.
Drie van de tien gingen over twijfel: de vertaling, het diploma, wat de AI niet las. Stel dat bovenaan Mareks dossier “87%” had gestaan. Wat had Victor dan geweten? In het volgende artikel: waarom zo'n getal meestal weinig zegt, en hoe je onzekerheid wel zo toont dat mensen er betere beslissingen mee nemen.
