Digitale tweeling is een illusie
Het inhoudelijk deel van het congresthema ‘de grenzen van de informatiesamenleving’ werd geopend door schrijver en filosoof Maxim Februari. Hij gaf er blijk van behoorlijk kritisch te zijn over de populariteit van data bij gemeenten.
Een modewoord als de digitale tweeling of digital twin bijvoorbeeld, suggereert alsof er een datakopie is gemaakt van de fysieke wereld. Maar daar is volgens Februari helemaal geen sprake van. “Het is op zijn best een portret, maar ook dan niet veel meer dan een model, een reductie of abstractie van de werkelijkheid.”
Maxim Februari
Neem bijvoorbeeld het digitale kinddossier. “Daar staat bijvoorbeeld wel geregistreerd dat een kind paracetamol heeft genomen, maar niet waarom. Het is risicovol om op basis daarvan vergaande conclusies te trekken. Op zich heb ik geen bezwaar tegen gebruik van data, maar we moeten ons wel steeds realiseren wat die data zijn.”
Daar komt bij dat de makers van digitale tweelingen ideologisch zijn gedreven: zij maken de keuze welke data wel of niet worden verzameld. “Alexa (de digitale assistent van Amazon, red.) claimt bijvoorbeeld te kunnen zien of de gebruiker verdrietig is en in zo’n geval een bepaalde keuze voor muziek te suggereren. De aanname is dat de gebruiker eenzaam is en daar ook iets aan wil doen. Terwijl dat helemaal niet het geval hoeft te zijn.”
Ethiek als motorblok
Gevaarlijker wordt het als de aannames betrekking hebben of ras, karakter of misdadigheid en gekoppeld worden aan gelaat, zinsbouw of locatie. “De CEO van een bedrijf dat gezichtsherkenningssoftware maakt schreef vorig jaar: we maken het wel, maar we hebben er spijt van. Het kan namelijk niet anders dan dat het op enig moment tegen de bevolking wordt ingezet. We weten niet wat de effecten zullen zijn, er zijn twijfels of het wel mogelijk is en er kleven de nodige gevaren aan. En toch worden dit soort technieken op grote schaal door gemeenten ingezet. Dat is niet zonder risico. Hetzelfde geldt voor de digital twin. Waarom doen we dit?”
Data roepen tal van ethische vraagstukken op, aldus Februari, die echter te vaak pas achteraf of slechts zijdelings aan bod komen. “Terwijl werken met informatie een door en door ethische aangelegenheid is. Hoe maak je een dataset van normen en waarden? Hoe formuleer je rechtvaardigheid in code?”
De keuze wat bestuurders willen gaan optimaliseren in een stad is het resultaat van een diep moreel en politiek proces, meent Februari. “Als het gaat om zaken als leefbaarheid, duurzaamheid, veiligheid en betaalbaarheid is voor de een wat anders belangrijk dan voor de ander. Het zijn voortdurende afwegingsprocessen. De uitkomst van die processen ligt aan de basis van de slimme stad en het gebruik van de data die daarvoor nodig zijn. Ethiek is in de discussie daarover geen rem op de ontwikkelingen, maar juist het motorblok ervan. Wat gaan we optimaliseren, waarom doen we dat en welke data zijn daarvoor nodig? Het is aan de overheid om daarop het antwoord te formuleren.”
Informatiesamenleving kent veiligheidsrisico’s
ICT-onderzoeker Brenno de Winter schetste in zijn bijdrage aan het Najaarscongres het grootste gevaar van de informatiesamenleving: techno-optimisme. Hij vergeleek het met de Titanic, waarvan ook iedereen dacht dat het cruiseschip niet kon zinken. “Het kan niet fout gaan, zei de kapitein van de Titanic. En toch ging het fout.”
Datzelfde kan gebeuren bij gemeenten die hun processen vergaand gedigitaliseerd hebben en te weinig oog hebben voor de veiligheidsrisico’s die daarmee gepaard gaan. Zij zijn in zo’n geval bijvoorbeeld gevoelig voor een Advanced Persistent Threat (APT). Hackers voeren langdurig verschillende aanvallen uit, om uiteindelijk de systemen binnen te dringen, te versleutelen of over te nemen. Vaak wordt losgeld geëist om de controle over de systemen weer terug te geven.
Dat dit geen fictie is bewijst de gemeente Lochem. Daar werd op 20 december 2018 ingebroken in de gemeentelijke systemen. Nader onderzoek bracht aan het licht dat dit al zes maanden aan de gang was. De Winter: “Telkens kwamen ze terug en kregen ze meer grip op het gemeentelijke informatiesysteem en alle systemen die daarmee verbonden zijn. En de gemeente had al die tijd niets door.”
De gevolgen kunnen verstrekkend zijn. “Men kan bij alle data in de basisregistratie personen, er kunnen paspoorten worden besteld, ze hadden kunnen doorlinken naar de database van de politie. Et cetera. Je begint bij een systeem, dan door naar 6, dan door naar 26.” In Lochem bleek dat uiteindelijk niet te zijn gebeurd, dankzij het feit dat op enig moment de antivirus software aansloeg. De Winter: “Ze zijn door het oog van de naald gekropen.”
Wat er in Lochem gebeurde leidde tot een schadepost van twee ton. Dat had in het ergste geval zomaar op kunnen lopen tot 6 ton. Het is dus alleszins voorspelbaar dat een gelijksoortige aanval bij een grote gemeente in de miljoenen zou zijn gelopen. “Opmerkelijk dat zo’n kleine organisatie zo’n geavanceerde aanval te verduren kreeg”, aldus De Winter. “Het zou voldoende aanleiding voor gemeenten moeten zijn om digitale veiligheid zeer serieus te nemen.”
