Digitalization and the Rule of Law

Digitalisering en de rechtsstaat

In de voorbije decennia zijn we in steeds sneller tempo geëvolueerd naar een digitale informatiesamenleving. In bijna alle domeinen van de economie, de maatschappij en de overheid hebben enorme digitale transformaties plaatsgevonden. Ook de overheid zelf experimenteert en innoveert met automatisering op basis van algoritmen, maar ook met de inzet van emerging technologies zoals kunstmatige intelligentie en blockchain. De complexiteit van technologie en de connectiviteit via informatienetwerken zal naar verwachting ook enkel blijven toenemen in de algoritmische netwerksamenleving. In het licht daarvan is het van cruciaal belang om voldoende aandacht te schenken zowel aan de gevaren die automatisering op basis van algoritmen big data met zich meebrengen, zoals ondoorzichtigheid (‘black box’), discriminatoire bias, de-individualisering of desinformatie, als aan de kansen die de digitale informatiesamenleving biedt. Een 'future proof' jurist die 'fit for the future' is, moet ook vanuit de juridische discipline durven en kunnen omgaan met de digitale transformaties die plaatsvinden.

Het is duidelijk dat digitale technologie sneller evolueert dan het recht, wat voor uitdagingen zorgt op het vlak van regulering en rechtsbescherming. Op sommige gebieden is dan ook nieuwe, specifieke wet- en regelgeving vereist. Zowel op nationaal als Europees niveau groeit dan ook de aandacht voor de regulering van de inzet van digitale technologieën. Denk bijvoorbeeld aan het voorstel voor een EU AI Act. In sommige situaties volstaat echter ook een hernieuwde interpretatie van bestaande wet- en regelgeving in het licht van digitalisering. Denk bijvoorbeeld aan de algemene beginselen van behoorlijk bestuur die nog steeds behoorlijk weerbaar blijken om rechtsbescherming te bieden tegen overheidsoptreden.

Ook binnen de overheid zelf vinden het uitvoeren van publieke taken en het uitoefenen van publiek gezag in toenemende mate plaats met behulp van algoritmen, automatische feitenvaststelling en big data analyses. De impact van algoritmische, geautomatiseerde besluitvorming krijgt dan ook terecht steeds meer aandacht in de maatschappij, de politiek en zeker ook in het (publiek)recht. Denk bijvoorbeeld aan de Toeslagenaffaire, de AERIUS-uitspraken van de ABRvS die een toetsingskader voor geautomatiseerde besluitvormingsprocessen invoerden of de SyRI-uitspraak. Algoritmische besluitvorming zet de fundamentele constitutionele uitgangspunten van de democratische rechtsstaat onder druk, waarbij men zelfs zou kunnen stellen dat deze beginselen hierdoor ook zelf onderhevig zijn aan transformatie.

In deze cursus staan we dan ook uitgebreid stil bij de impact van digitalisering op de rechtsstaat, met bijzondere aandacht voor algoritmische besluitvorming door de overheid. Er wordt systematisch gekeken naar de impact op de fundamentele tweedeling tussen algemene regels en concrete toepassing via individuele beslissingen, het legaliteitsbeginsel, de Trias Politica, de democratische controle, de bescherming van grondrechten en de effectiviteit van rechterlijke controle.

U gaat in twee groepsopdrachten ook zelf aan de slag door 1° het visualiseren van de impact van digitalisering op verschillende aspecten van de rechtsstaat en door 2° het ontwikkelen van een deel van een algoritmische impact assessment waarbij u relevante vragen bedenkt die een overheid zich zou moeten stellen wanneer ze een besluitvormingsproces beoogt te automatiseren. Het is immers van belang dat juristen onder meer met technische experten aan tafel kunnen zitten en op toegankelijke, begrijpelijke wijze de juiste juridische vragen kunnen stellen zodat reeds in de ontwerpfase van technologie overeenstemming met wet- en regelgeving kan worden geborgd, ook wel legal compliance by design genoemd.

Plaats van de cursus in het curriculum:

• Juridische keuzecursus bachelor

Na afloop van de cursus:

• is de student in staat om de kansen en gevaren van digitalisering voor de democratische rechtsstaat te identificeren en te kaderen in bredere evoluties van maatschappij en recht;

• kan de student uitleggen hoe overheden besluitvormingsprocessen automatiseren via de inzet van algoritmen, geautomatiseerde feitenvaststelling en big data analyses;

• kan de student onderscheid maken tussen gedeeltelijk en volledig geautomatiseerde besluitvorming met behulp van algoritmen en het belang van de mate van beslissingsruimte die het bestuur heeft in verband brengen met dit onderscheid;

• heeft de student kennis en inzicht verworven aangaande de impact van de geautomatiseerde besluitvorming op 1° de fundamentele tweedeling tussen algemene regels en concrete toepassing via individuele beslissingen, 2° het legaliteitsbeginsel, 3° de Trias Politica, 4° de democratische controle, 5° de bescherming van grondrechten (zoals het recht op privacy en het recht op gelijke behandeling), en 6° de effectiviteit van rechterlijke controle;

• is de student in staat om relevante juridische vragen te stellen, zodat mogelijke rechtsstatelijke gevaren van geautomatiseerde overheidsbesluitvorming kunnen worden geïdentificeerd;

• kan de student geautomatiseerd overheidsoptreden problematiseren in het licht van transparantie, uitlegbaarheid, accountability en contestability en met het oog op het borgen van die rechtsstatelijke waarden oplossingen aandragen;

• heeft de student inzicht verworven in de huidige en mogelijk toekomstige impact van de opkomende technologieën kunstmatige intelligentie en blockchain

• beschikt de student over het redeneervermogen en de soft skills om bij te dragen tot het borgen van legal compliance by design

• heeft de student geleerd om de impact van digitalisering op de beginselen van de democratische rechtsstaat te visualiseren

Do you study at Eindhoven University of Technology (TU/e) or Wageningen University and Research (WUR)? You can enrol via eduXchange.nl

You must meet the following requirements

• Completed all course modules listed below
• Introduction to Law of Obligations (RGBUPRV001)
• Introduction to Property Law (RGBUPRV002)
• Foundations of Law (RGBUSBR001)
• Intro Constitutional/Administrative Law (RGBUSBR002)
• Introduction to Criminal Law (RGBUSTR001)

• Miscellaneous Diverse artikelen, digitaal vindbaar of beschikbaar via Blackboard.