In een eerder artikel: Transparantie van beslissingen (in het kader van de GDPR) is ingegaan op de verschillende uitgangspunten/aandachtspunten met betrekking tot de transparantie van beslissingen. In dit artikel wordt kort het transparantie raamwerk voor beslissingen gepresenteerd, dit gebeurd aan de hand van Figuur 1. Dit raamwerk en de bijbehorende Key Transprancy Indicators (KTI’s) worden in de praktijk gebruikt om transparantie van beslissingen / AI / Algoritmes te evalueren en/of te auditen. In een volgend artikel zal worden ingegaan op de individuele indices.

Figuur 1: Transparantie raamwerk voor beslissingen

Het raamwerk bestaat uit twee assen. De X-as representeert de verschillende levenscycli van een beslissing, zoals elicitatie, ontwerp, specificatie, etc. Terwijl de Y-as de producten van belang bij een beslissing representeren, bijvoorbeeld een bron, een beslisservice  of een uitvoeringsvraag.  Elk van de vijf producten kent een verdere onderverdeling, maar deze worden niet gerepresenteerd in het raamwerk. In totaal onderkent het raamwerk twaalf KTI’s, waarvan zes KTI’s de transparantie van de beslissing en de beslisservice evalueren, namelijk:

1. Decision Transparancy Indicator (DT-Indicator);
2. Decision Path Transparancy Indictor (DPT-Indicator);
3. Decision Execution Transparancy Indicator (DET-Indicator);
4. Decision Service Transparancy Indictor (DST-Indicator);
5. Decision Service Path Transparancy Indictor (DSPT-Indicator)
6. Decision Service Execution Transparancy Indicator (DSET-Indicator).

Elk van de hierboven genoemde zes KTI’s geeft de transparantie van een beslissing of een beslisservice weer. Een aantal KTI’s zoals DT, DST, DPT en DSPT kunnen worden gebruikt om de transparantie van de beslissing/beslisservice in verschillende levenscycli te berekenen, zie Figuur 1.

De andere zes KTI’s kijken met name naar de transparantie tussen de beslissing en andere belangrijke producten, bijvoorbeeld: kan de logica die gebruikt wordt terug worden herleid naar de brondata of brontekst. Deze vorm van transparantie wordt in de informatiekunde vaak aangeduid als traceerbaarheid. Voor een uitgebreide beschrijving van traceerbaarheid zie het artikel: traceerbaarheid en business rules. Om de traceerbaarheid te meten zijn zes KTI’s gedefinieerd:

7. Decision Data Transparency Indicator (DDT-Indicator);
8. Decision Service Data Transparency Indicator (DSDT-Indicator);
9. The Decision Data Question Indicator (DQT-Indicator);
10. The Decision Service Data Question Indicator (DSQT-Indicator);
11. Business Logic Transparency Indicator (BLS-Indicator);
12. Business Service Logic Transparency Indicator (BSLS-Indicator).

In een volgend artikel zal worden ingegaan op de individuele indices. Mocht u al vragen hebben of geïnteresseerd zijn in een presentatie, neem dan contact op via: info@martijnzoet.com

co-author: Koen Smit