DIT IS DE ÉCHTE SLIMME STAD MET LEVENDIG DEBAT OVER DEMOCRATIE, DATA EN TECHNOLOGIE IN DE SMART CITY Centre for BOLD Cities 17 experts | 9 interviews | 16 inzichten
Voorwoord 4 Samenvatting 6 English summary 8 #1 De rol van AI in besluitvorming | Een slimme democratie luistert ook naar de minderheid 12 Ilyaz Nasrullah (zelfstandig innovatieconsultant en Trouw-columnist) en Catholijn Jonker (hoogleraar Interactieve Intelligentie, TU Delft) #2 De rol van de gemeenteraad | De gemeenteraad hoeft technologie niet zomaar te laten gebeuren 18 Henk Bouwmans (directeur Nederlandse Vereniging voor Raadsleden) en Jiska Engelbert (beeldvorming rondom smart cities, Erasmus Universiteit Rotterdam). #3 Weerstand | Een stad die bewoners niet willen, is nooit slim 24 Marnix Lamers (Stralingsbewust Utrechtse Heuvelrug - Stralen doen we liever zelf) en Vivien Butot (promovendus Erasmus Universiteit Rotterdam) #4 De relatie tussen overheid en inwoners | Hoe de slimme stad legitiem en dus te vertrouwen wordt 30 Tanaquil Arduin (Chief Data Officer Gemeente Den Haag) en Bram Klievink (hoogleraar Bestuurskunde, Universiteit Leiden) #5 De rol van kunstenaars in de slimme stad | Dilemma: een prettig ontwerp verhult slimme techniek 36 Gill Baldwin (beeldend kunstenaar) en Bregje van Eekelen (hoogleraar Ontwerp, Cultuur en Maatschappij, TU Delft) #6 Living labs | Bewoners doen graag mee als ze zelf iets aan de data hebben 42 Thijs Turèl (programmamanager Amsterdam Institute for Advanced Metropolitan Solutions) en Sabrina Huizenga (postdoc Universiteit Leiden: nieuwe staat-burgerrelaties) #7 Citizen Science | Onderzoek door inwoners doet nog te weinig voor inwoners 48 Jan Harm Brouwer (teamleider Lucht & Geluid, Provincie Zuid-Holland) en Frans Snik (Universiteit Leiden, oprichter kenniscentrum Citizen Science Lab) #8 Veiligheidstechnologie in de stad | Verbindend of vervreemdend? Do’s en don’ts bij WhatsApp buurtpreventie en deurbelcamera’s 54 Wilco Berenschot (Nationale Politie en voormalig wijkagent) en Freek de Haan (universitair docent Sociologie, Erasmus Universiteit Rotterdam) #9 De BOLD-visie op de smart city | We moeten praten. In wat voor een stad willen we leven? 60 Liesbet van Zoonen (wetenschappelijk directeur Centre for BOLD Cities en hoogleraar Cultuursociologie, Erasmus Universiteit Rotterdam) Verder lezen, luisteren en kijken 68 Colofon 71 Inhoud
Voorwoord Digitale technologie betekent nieuwe mogelijkheden, nieuwe manieren van werken en communiceren. Voor de overheid brengt het kansen, maar we moeten tegelijkertijd opletten dat we goed nadenken over de toepassing ervan. Wat brengt het ons en wat levert het op? Als wethouder Digitale Inclusie wil ik zorgen dat iedereen kan meedoen, dat we niemand uitsluiten en iedereen gelijk behandelen. Ik wil de kloof dichten tussen de mens en het systeem. Zo’n 220.000 Rotterdammers kunnen slecht meekomen in de digitale wereld. De gemeente biedt hen laagdrempelige trainingen aan. Dicht bij huis, bijvoorbeeld in de bibliotheek. Maar digitale inclusie gaat over meer dan alleen digitale vaardigheden. Het gaat ook over bij wie informatie terecht komt en wie we als overheid niet goed kunnen bereiken. Wie heeft een tablet en wie heeft misschien geen budget voor een goede wifi-verbinding? Beheers je meerdere talen of ben je laaggeletterd? Kansengelijkheid is zeker van toepassing als het gaat om digitale technologie. Ik wil zorgen dat alle Rotterdammers gelijke kansen krijgen op het gebied van digitale ontwikkelingen. ‘Niets over ons zonder ons’, is de slogan die mensen met een beperking gebruiken om aan te geven dat zij willen meedenken over beleid. Volwaardig kunnen meedoen in de maatschappij wordt het uitgangspunt in plaats van een extra bijkomstigheid. Als wethouder vind ik het belangrijk om deze gedachte altijd mee te nemen in het beleid dat we als stad maken. 4
Daarom zet ik me in voor een Rotterdams ‘Civic AI lab’. Hier kunnen bewoners meepraten over beleid of nieuwe toepassingen van digitale technologie. Zodat zij aan de voorkant kunnen meedenken in plaats van achteraf geconfronteerd worden met beslissingen van de gemeente. Want alleen samen met bewoners kunnen we de digitale kloof dichten. Voor het vormgeven van digitale inclusie, hebben we kennis en expertise nodig. Die halen wij onder andere uit de samenwerking met het Leiden-Delft-Erasmus Centre for BOLD Cities. Met deze white paper deelt het centrum kennis en expertise met een breder publiek. U leest er over actuele onderzoeksresultaten, debatten en hoe we samen met bewoners al het mogelijke uit digitale technologie halen. Veel leesplezier! ‘Ik wil de kloof dichten tussen de mens en het systeem’ Faouzi Achbar MBA MSc WethouderWelzijn,Samenleven, Sport en Digitale Inclusie Gemeente Rotterdam 5
Samenvatting In deze white paper geven zeventien wetenschappers en praktijkdeskundigen hun visie op de smart city. In duo-interviews laten ze zien hoe data en technologie kansen bieden om de stad leefbaarder te maken. En: om daar met burgers en bestuurders samen aan te werken. Tegelijk moeten we hoognodig met elkaar in gesprek over wat we in onze samenleving wel en niet willen met data en technologie. 16 inzichten uit de interviews Het doel van de technologie 1. De vraag naar het doel van de technologie en hoe de technologie daadwerkelijk bijdraagt aan het oplossen van de stedelijke opgaven wordt nog te weinig gesteld. Beleidsmakers presenteren de inzet van technologische innovaties vaak ten onrechte als onvermijdelijk. 2. Met een helder doel is ook de keuze voor een technologie beter te maken. Zo kun je AI bijvoorbeeld inzetten om verschillende belangen zichtbaar te maken, maar ook om juist zwakkere stemmen naar voren te halen. 3. Data en slimme technologie kunnen gemeenten helpen schaarse mensen en middelen optimaal in te zetten. Ook helpen data om uit te leggen waarom de verbetering van bijvoorbeeld het ene kruispunt urgenter is dan het andere. 4. De opbrengst van technologie moet altijd worden afgewogen tegen de impact. Hierbij is het belangrijk om verder te kijken dan privacy-risico’s, maar ook te denken aan de gelijkwaardigheid van burgers, proportionaliteit en de informatiesymmetrie tussen burger en overheid. Dat kan bijvoorbeeld met het Impact Assesment voor Mensenrechten en Algoritmen. 5. Street-level-ambtenaren, de ambtenaren met wie inwoners vooral te maken hebben, doen op microniveau al creatieve aanpassingen, zodat technologie optimaal wordt benut voor meer veiligheid en meer leefbaarheid. 6. De verleiding om technische mogelijkheden ten volle te benutten blijft groot. Het vraagt lef om te herkennen dat (betere) technologie niet altijd de oplossing is. 6
Een actieve rol voor de politiek en samenleving 7. Vraagstukken over technologie behelzen altijd ook politieke beslissingen, het zijn niet slechts operationele kwesties. Dat vraagt een actievere rol van de gemeenteraad, als hoogste representatieve orgaan van de stad, in het bepalen van de koers in wat voor stad wij nu eigenlijk willen leven. 8. De samenleving heeft het visionaire denkwerk over data en technologie uitbesteed aan techbedrijven. Zo ontstaat de aanname dat wij, zodra er een nieuwe technologie is, er ook ‘iets mee moeten’. 9. Het politieke debat krijgt belangrijke impulsen van kunstenaars en collectieven wier werkveld kunst, wetenschap en toekomst betreft. Dat helpt ons om alternatieve visies op het gebruik van technologie te ontwikkelen. Een andere houding voor meer inspraak en autonomie van inwoners 10. Burgermetingen geven deelnemers een gevoel van controle, maar vervolgens een punt maken bij overheden en bedrijven lukt nog niet goed. Dat vraagt om een andere houding van de overheid en kennisinstellingen en meer openheid om te experimenten om inwoners vanaf het begin te betrekken bij onderzoek. 11. Ook al is de legitieme inzet van technologie in de theorie helder, dat betekent nog niet dat ambtenaren er in de praktijk goed mee kunnen werken. Het is belangrijk om te zorgen dat een comfortabel gesprek tussen ambtenaren en inwoners mogelijk blijft. 12. Technologische toepassingen kunnen de afstand tussen uitvoerende ambtenaren en inwoners verkleinen (WhatsApp-buurtpreventiegroepen) maar ook vergroten (Splitter, datagebruik in het sociale domain). Technologie kan nooit een vervanging zijn van zelf actief de wijk ingaan. 13. Weerstand kan ook een legitieme uitkomst van participatie zijn. Technologie moet zichtbaarder worden 14. Technologie blijft – mede door een goed ontwerp – vaak onzichtbaar. Dat maakt de technologie prettig in gebruik, maar verhult de politieke relevantie ervan. 15. Ook als een gemeente open is over het gebruik van data en technologie, leidt dit niet automatisch tot meer vertrouwen in de overheid. Toch is openheid en duidelijkheid over wat de technologie wel en niet registreert, wie de eigenaar is van de apparatuur en waar mensen hun beklag kunnen doen, ontzettend belangrijk. In heldere taal en met een passende presentatie. 16. Om inwoners meer autonomie te geven, is het belangrijk om niet alleen transparant te zijn, maar ook inspraakmogelijkheden te bieden. Zowel voor als na implementatie van een technologie. Contestability is hierbij een sleutelbegrip. Het daadwerkelijk opvolgen van de inspraak is ook van groot belang. 7
Summary In this white paper, seventeen scientists and practitioners present their vision on the smart city. In nine duo interviews they discuss how data and technology offer opportunities to make the city more liveable. They also show how to collaborate with citizens and administrators. Nonetheless, we urgently need to start talking to each other about what we do and do not wish to do in our society with data and technology. The 16 most important insights from the interviews The purpose technology serves 1. The question of the purpose of technology and how technology actually contributes to solving urban challenges is still too rarely asked. Policymakers often mistakenly present the use of technological innovations as inevitable. 2. Having a clear goal also makes it easier to choose a technology. For example, you can use AI to make different interests visible, but also to bring weaker voices to the fore. 3. Data and smart technology can help municipalities make optimal use of scarce people and resources. Data also help explain why the improvement of, for example, one intersection is more urgent than that of another. 4. The yield of technology should always be weighed against its impact. Here, it is important to look beyond privacy risks, but also to consider the equality of citizens, proportionality, and information symmetry between citizens and government. This can be done, for instance, with the Impact Assessment for Human Rights and Algorithms. 5. Street-level civil servants, that is, those civil servants with whom residents primarily deal, are already making creative adjustments at the micro level, so that technology is optimally used for greater safety and a liveability. 6. The temptation to make full use of technical possibilities remains strong. It takes guts to recognize that (better) technology is not always the solution. 8
An active role for politics and society 7. Issues about technology always also include political decisions, they are not just operational issues. This requires a more active role of the City Council, as the city’s highest representative body, in determining the course regarding what kind of city we actually want to live in. 8. Society has outsourced visionary thinking about data and technology to tech companies. This creates the assumption that, as soon as there is a new technology, we obviously ‘have to do something with it’. 9. The political debate receives important impulses from artists and collectives whose field of work involves art, science, and the future. That helps us to develop alternative visions on the use of technology. A different attitude for greater resident participation and autonomy 10. Citizen surveys can give participants a sense of control, but then making a point to authorities and companies is not yet successful. This requires a different attitude from the government and knowledge institutions, as well as more openness to experiment with involving residents in research projects from the very beginning. 11. Even if the legitimate use of technology is clear in theory, this does not mean that the official involved can work well with it in practice. It is important to ensure that the conversation officials need to have with residents can be a comfortable one. 12. Technological applications can reduce the distance between executive officials and residents (WhatsApp neighbourhood prevention groups) but also make it larger (Splitter, the use of (big) data in the social domain). Technology can never replace actively presenting yourself in the neighbourhood. 13. A legitimate outcome of participation can also be resistance. Technology needs to become more visible 14. Partly due to good design, technology often remains invisible. This makes technology pleasant to use, but masks its political relevance. 15. Even if a municipality is open about the use of data and technology, this does not automatically lead to greater trust in the government. Still, openness and clarity about what the technology does and does not record, who owns the equipment and where people can complain, is extremely important. This information needs to be presented in clear language and with an appropriate presentation. 16. To give residents more autonomy, it is important not only to be transparent, but also to provide the opportunities for participation – both before and after the implementation of a technology. Contestability is a key concept here. Not only should residents be heard, but it is also very important to actually follow up on their concerns and wishes. 9
#5 Weerstand
#1 DE ROL VAN AI IN BESLUITVORMING Een slimme democratie luistert ook naar de minderheid Groeiende onvrede en afhakende mensen die zich niet gehoord voelen: kunstmatige intelligentie kan soelaas bieden. Het kan besluitvorming veel zorgvuldiger en completer helpen maken, laten hoogleraar Hybride Intelligentie Catholijn Jonker en innovatieconsultant Ilyaz Nasrullah zien. Door Rianne Lindhout 12
13
#1 De rol van AI in besluitvorming Eerst iets rechtzetten over democratie Computerwetenschapper Catholijn Jonker en informaticus Ilyaz Nasrullah zijn helemaal thuis in algoritmen en datasystemen, maar kijken ook met een heldere blik naar hoe wij samenleven en wat democratie eigenlijk is. Nasrullah: ‘Dat de meerderheid bepaalt wat er gebeurt, is niet het hele idee van een democratie. Naast de rechtsstaat die belangen beschermt, is het ook essentieel dat je bereid bent naar elkaar te luisteren.’ Jonker ziet dat precies zo. ‘Je moet elkaar begrijpen voordat je tot een besluit komt. Oog hebben voor de normen en waarden van anderen, willen zorgen voor anderen: waar zitten zij mee, wat blokkeert hen om ja te zeggen tegen een voorstel? Zolang je elkaar niet begrijpt, is de ander een bozerik die jouw belangen niet wil zien.’ Ze noemt corona als voorbeeld. ‘Bij strenge coronamaatregelen speelden verschillende belangen. Ze hadden grote impact op bedrijven, die ze dus het liefst snel wilden loslaten. Aan de andere kant had je de angst die mensen hadden over hun gezondheid. Het is niet interessant wie er fout zit, we moeten met elkaar iets beslissen. Het is wel belangrijk dat je het gevoel hebt dat jouw belang gehoord is. Dat wil ik met AI beter mogelijk helpen maken. Daarom doe ik mee met het Centre for BOLD Cities.’ Catholijn Jonker is hoogleraar Interactieve Intelligentie aan de TU Delft en verbonden aan het Leiden Institute of Advanced Computer Science (LIACS). Als computerwetenschapper houdt ze zich bezig met de inbedding van kunstmatige intelligentie in de sociale omgeving. Ilyaz Nasrullah is zelfstandig innovatieconsultant. Als informaticus werkte hij aan digitale technologie voor startups, grote bedrijven en overheden. Om het menselijke geluid over de digitale technologie te laten horen, schrijft hij columns voor dagblad Trouw. 14
Een algoritme kan álle stemmen horen Algoritmen bieden ongekende mogelijkheden om besluitvorming te verbeteren. Jonker: ‘Stel je deze casus voor: inwoners van een woonwijk mogen stemmen over de verdeling van drie ton om de wijk op te knappen. Mensen hebben voorstellen ingediend en nu mag iedereen die voorstellen rangschikken én noteren waarom welk voorstel wel of niet de voorkeur heeft.’ Daar kun je niets mee, zou je zeggen. ‘Als er 20.000 mensen stemmen, is het onmogelijk voor een ambtenaar om al die stemmen door te ploegen. Je kunt ze alleen tellen en de meerderheid zijn zin geven. Dan gaat het geld naar het beste verhaaltje.’ Een algoritme kan wél alle stemmen en toelichtingen doorploegen. ‘Stel: een project krijgt net geen meerderheid. Omdat er een paar dingen niet duidelijk bleken, of er bestaan bepaalde zorgen, of het paste niet in het budget. Een algoritme kan dat naar boven halen en zo kan een gesprek ontstaan over de aanpassing van het voorstel.’ In een tweede kiesronde, een kleine moeite met zo’n algoritme, kunnen dan de voorstellen winnen die mensen écht willen. Zulke algoritmen bestaan en worden al gebruikt De meeste lerende algoritmen zijn erop gericht ‘een beetje de gemiddelde mening’ boven water te krijgen, zegt Jonker. ‘Maar een gevoel dat mensen na zo’n raadpleging krijgen, is: je zegt wel dat je naar me luistert, maar je doet er niets mee! Je kunt AI trainen ook om juist diversiteit te meten, om waarden, zorgen en motivaties te clusteren.’ Een stille meerderheid kan dan nuance aanbrengen. Dat gebeurt al bij PWE: Participatieve Waarde Evaluatie, ontwikkeld door onder meer wetenschappers van de TU Delft. Zo hielden drie universiteiten en het RIVM in het voorjaar van 2020, tijdens de eerste corona-lockdown de coronaraadpleging. De 30.000 deelnemers kregen op hun telefoon of tablet acht versoepelopties te zien met hun voor- en nadelen. Daarnaast mocht de druk op het zorgsysteem niet meer dan 50% toenemen. Ook kregen deelnemers informatie over de effecten van elke optie op het aantal sterfgevallen en bijvoorbeeld de afname in het aantal huishoudens met langdurig inkomensverlies. Deelnemers adviseerden welke maatregelen volgens hen moesten worden versoepeld, daarna konden zij hun keuzes motiveren. ‘Zolang je elkaar niet begrijpt, is de ander een bozerik’ 15
#1 De rol van AI in besluitvorming Ook konden ze ideeën inbrengen voor eventuele andere versoepelingen. Een algoritme analyseerde de uitkomsten om inzicht te krijgen in de waarden, motivaties en zorgen van mensen. In maart 2023 startte de Tweede Kamer de Nationale Klimaatraadpleging, die ook op deze manier werkt. De PWE-onderzoekers van de TU Delft richtten eind 2020 een startup op rond de methode: Populytics. ‘AI kan sterke stemmen versterken, maar ook zwakkere stemmen naar voren halen’ Bedenk altijd: waar doen we het voor? Nasrullah vindt de hoofdvraag bij technologievraagstukken zó evident, dat hij zich bijna schaamt om hem te stellen. Toch merkt hij vaak dat juist die vraag niet wordt gesteld. ‘Wat is het doel van je technologie? Je kunt AI gebruiken om de sterkste stem te versterken of om de zwakkere stem naar voren te halen. De technologie-keuze die je maakt, komt pas na het antwoord op je doel-vraag.’ Jonker: ‘Precies, dat is superbelangrijk! Je wilt recht doen aan de bevolking, representatief en inclusief zijn en alle belangen zo goed mogelijk afwegen.’ Nasrullah: ‘Technologen krijgen te snel de opdracht om maar te gaan bouwen wat zij bedenken. Zo was er het nuttige en succesvolle systeem dat coronavirus in rioolwater kon meten, ik schreef erover in een van mijn columns. Je weet hier wat er gemeten wordt en waar het goed voor is. Maar vervolgens ontstaan plannen om uit rioolwater ook informatie te halen over obesitas, diabetes en bepaalde vormen van kanker. Waar is dat goed voor? Komt er een dikke-mensenalarm? Dat is nutteloze datahonger, precies de slimme stad die we niet willen.’ Jonker: ‘En als je weerwoord ophaalt, dan moet je er ook gevolg aan geven. Zodat mensen voelen dat je ze hebt gehoord. Hoe je dat organiseert, is een complex socio-technisch probleem met juridische, technische, praktische en sociale aspecten.’ 16
We kunnen een voorbeeld nemen aan Taiwan De piepjonge democratie Taiwan is leidend in het inzetten van technologie om te helpen besturen, zeggen de beide kenners. Het land heeft een minister voor digitale zaken: Audrey Tang, een van de beste softwareprogrammeurs ter wereld, volgens Nasrullah. ‘Bij ons zijn burgerraden in opkomst, in Taiwan is daarvan een technologische variant ontwikkeld. In het online-offline consultatieproces vTaiwan waren volksvertegenwoordigers, wetenschappers en andere experts, bedrijven, burgerorganisaties en burgers vertegenwoordigd. De bedoeling was om tot legitieme – namelijk op echte consensus gebaseerde – besluiten te komen. Het proces doorliep de fasen voorstel, meningen, reflectie en wetgeving.’ In elke fase zorgden algoritmen ervoor de diversiteit of juist de consensus naar voren te brengen. Nu is vTaiwan onderdeel van het platform Join, waarover MIT Technology Review schrijft: ‘Een simpel maar ingenieus systeem waarmee Taiwan crowdsourcing op wetgeving mogelijk maakt.’ ‘Er is in Taiwan een enorme bereidheid tot experimenteren’, zegt Nasrullah. Een minister voor digitale zaken lijkt hem ook voor Nederland geweldig, hij ziet mogelijkheden voor vernieuwing in onze democratie. ‘Het is ontzettend jammer dat in de Nederlandse Tweede Kamer maar heel weinig mensen zitten die écht weten wat wel en niet kan met technologie. Ik zou graag zien dat alle politieke partijen een expert op het gebied van IT hoog op de kieslijst plaatsen, want technologie beïnvloedt wezenlijk de vorm van onze samenleving.’ ‘Als je weerwoord ophaalt, dan moet je er ook gevolg aan geven’ 17
#2 DE ROL VAN DE GEMEENTERAAD De gemeenteraad hoeft technologie niet zomaar te laten gebeuren 18
Met hippe termen als smart city, metaverse en digital twin bepalen stedelijke overheid en bedrijfsleven het toekomstbeeld van de stad. Maar wat voor gemeente willen we eigenlijk zijn? Die vraag moet de gemeenteraad aan de orde blijven stellen, zeggen Jiska Engelbert en Henk Bouwmans. Door Meike Schipper 19
#2 De rol van de gemeenteraad Technologie is politiek relevant, maar blijft vaak onzichtbaar De toeslagenaffaire heeft de risico’s van technologische systemen in het politieke geheugen gegrift. Toch komt een breed politiek debat over technologie nog niet op gang. ‘Technologie en digitalisering staan niet eens in de top 25 van belangrijkste onderwerpen volgens gemeenteraadsleden,’ vertelt Henk Bouwmans, directeur van de Nederlandse Vereniging voor Raadsleden. ‘Pas als er een probleem of incident is, zoals een datalek, is er aandacht voor. Maar die aandacht ebt ook snel weer weg.’ De verkiezingsprogramma’s van de politieke partijen zijn daar volgens Engelbert een sprekend voorbeeld van. ‘Als er al iets over technologie in staat, dan gaat het over doemscenario’s.’ De onzichtbaarheid van technologie verhult de politieke relevantie. ‘Technologische problemen zijn voor de meeste mensen onzichtbaar en daardoor is het ook niet direct een onderwerp,’ verklaart Bouwmans. Dat beaamt smart-city- onderzoeker Jiska Engelbert: ‘We hebben het bijvoorbeeld over sensoren en kleine camera’s. Als burger krijg je er niet veel van mee en dat maakt het geen aantrekkelijk onderwerp voor politieke campagnes.’ Gemeenteraadsleden nemen niet graag standpunten in over technologie. ‘Ze hebben vaak het idee dat je technologische vraagstukken moet overlaten aan mensen die iets van technologie weten. Die kennis is er niet altijd in de gemeenteraad,’ volgens Engelbert. Toch hoeft dat volgens haar geen belemmering te vormen. ‘Het is politiek relevant voor iedereen.’ Jiska Engelbert is strategisch directeur van het Leiden-DelftErasmus Centre for BOLD Cities en werkt als universitair hoofddocent (Slimme) Stadssociologie aan de Erasmus School for Social and Behavioural Sciences. Henk Bouwmans is directeur van de Nederlandse Vereniging voor Raadsleden. De vereniging zet zich in voor een sterke positie van gemeenteraadsleden en ondersteunt hen in het vervullen van hun democratische taak. 20
Bedrijven bepalen het narratief over technologie De politieke stilte wat betreft technologie is gunstig voor grote techbedrijven. Zij hebben die zelf zorgvuldig in de hand gewerkt, stelt Engelbert. ‘Volgens hun narratief kunnen de grote vraagstukken van de toekomst, maar ook de incidenten rondom technologie, alleen maar door technologie worden opgelost.’ Engelbert ziet dat veel gemeenten meegaan in het idee dat technologie de allergrootste uitdaging is en dat je een expert moet zijn om het te begrijpen. ‘Een functie als Chief Digital Officer, die de meeste grote steden nu hebben, zag je voorheen alleen in grote private bedrijven. Eromheen worden grote afdelingen opgetuigd waar veel mensen uit bijvoorbeeld de telecomsector komen te werken. Daarmee laat de ambtenarij eigenlijk ook zien dat zij vinden dat ze de expertise zelf niet in huis hebben, alsof technologie een soort radicale nieuwe skill vereist in het openbaar bestuur.’ ‘We hebben het visionaire denkwerk uitbesteed aan techbedrijven’ Terwijl gemeenteraadsleden zich in hun termijn van vier jaar richten op wat ze binnen die tijd kunnen realiseren, hebben techbedrijven alle ruimte om hun visies op de toekomst uit te dragen. ‘Zij laten utopische beelden zien waarin het leven volledig gefaciliteerd wordt door technologie. In de politieke realiteit van de korte termijn, hebben we het echte visionaire denkwerk dus uitbesteed aan techbedrijven,’ concludeert Engelbert. ‘En zo ontstaan aannamen, zoals dat technologie er nu eenmaal is en we er dus iets mee moeten. En dat publieke waarden met technologie versterkt kunnen worden.’ Het meevaren op de golf van technologische vooruitgang wordt dan een doel op zichzelf. Grote steden investeren veel in internationale marketing en willen zich profileren op het gebied van technologie, ziet Engelbert. Daardoor ontstaat er een cirkelredenering. ‘Waarom doen we dit? Omdat we slim willen zijn. Waarom willen we slim zijn? Omdat we dit willen doen.’ 21
#2 De rol van de gemeenteraad De gemeenteraad kan zijn rol terugpakken Naast de invloed van techbedrijven, vormt ook de inrichting van het openbaar bestuur in Nederland een belemmering voor gemeenteraadsleden om invloed uit te oefenen op de smart city. De dualisering die in 2002 werd ingevoerd, speelt daar volgens Bouwmans een rol in. ‘Men heeft toen vastgesteld dat de gemeenteraad als hoogste bestuursorgaan de kaders dient te stellen, oftewel de koers bepaalt. De uitvoering ligt bij het dagelijks bestuur, oftewel het college van burgemeester en wethouders. En in Nederland zien we technologie en informatisering als uitvoering,’ zegt Bouwmans. Technologische onderwerpen komen dus op het bordje van de wethouders en de ambtenarij. Wanneer de gemeenteraad zich wel over technologie buigt, loopt het op allerlei plekken vast. ‘Meestal trekken ze gelijk aan de noodrem, in de vorm van een motie,’ zegt Engelbert. ‘In een aantal grote steden ligt er een motie waarin de gemeenteraad aan de wethouders vraagt om met een kader te komen voor technologische toepassingen. Bijvoorbeeld een algoritmeregister, of een beleidskader. Ambtenaren huren dan vervolgens allerlei experts in om een beleidskader te bedenken.’ Daarmee geeft de gemeenteraad zijn eigen taak, het bepalen van de koers, uit handen. Ook voor de ambtenaren is de huidige situatie niet werkbaar, ziet Bouwmans. ‘Ambtenaren weten vaak niet wat de raad precies wil. En in plaats van dat ze dan met elkaar in gesprek gaan, overheerst de angst. Want ze moeten een motie wel binnen een bepaalde tijd beantwoorden. Terwijl de ambtenarij het eigenlijk zou kunnen terugleggen: hier zijn verschillende scenario’s mogelijk, kunnen we daarover in gesprek?’ ‘De gemeenteraad geeft zijn taak uit handen: het bepalen van de koers’ 22
Technologievraagstukken gaan over hoe we willen samenleven Cameratoezicht is volgens Bouwmans en Engelbert een interessant voorbeeld. ‘Er was een probleem met veiligheid. Het leek een makkelijke oplossing om overal camera’s te plaatsen,’ zegt Bouwmans. ‘Het daadwerkelijke probleem wordt uit het oog verloren. Er is geen bewijs voor de effectiviteit van cameratoezicht. Hooguit dragen camera’s bij aan een soort subjectieve veiligheidservaring. Er zijn ook andere politieke keuzes mogelijk om het vraagstuk van criminele jongeren of hangjeugd aan te pakken,’ zegt Engelbert. Als het cameratoezicht er eenmaal is, is het moeilijk weer los te laten. ‘Je zit dan al in het spoor van technologische oplossingen,’ zegt Bouwmans. ‘De gemeenteraad kijkt er soms even naar, maar het veiligheidsprobleem ligt bij de burgemeester. De politie denkt vooral vanuit repressie, zonder dat de elementaire vragen aan de orde komen. Willen we echt de kant op van Big Brother-achtige concepten?’ ‘In Nederland zien we technologie en informatisering als uitvoering’ Technologie is niet vanzelfsprekend de oplossing Een technologisch vraagstuk gaat dus vooral over wat voor samenleving we willen creëren. ‘Misschien moeten we terug naar de tekentafel om te bepalen waartoe de gemeenteraad en de ambtenarij ook alweer op aarde zijn,’ zegt Engelbert. ‘Wat mij betreft kan de gemeenteraad bijvoorbeeld zeggen: “Wacht eens even, waarom moet er worden geïnvesteerd in bodycams? Als je publieke middelen maar één keer kan besteden, waarom dan daaraan?”’ Het is dus van groot belang om verder te kijken dan alleen de technologie, benadrukt Engelbert. ‘De vragen die de raad vaak stelt, gaan over waar je rekening mee moet houden als een technologie er eenmaal is. Heel waardevol, maar wat ons betreft gaat er nog een stap aan vooraf: het bevragen van de vanzelfsprekendheid waarmee technologie geaccepteerd wordt als de oplossing voor het probleem.’ 23
24 #3 WEERSTAND Een stad die bewoners niet willen, is nooit slim
Lantaarnpalen die voorbijgangers detecteren, een 5G mobiel netwerk: bewoners zitten lang niet altijd te wachten op technologische innovaties in de buitenruimte. En die zijn er juist voor hen, toch? Volgens 5G-criticus Marnix Lamers en smart-city-onderzoeker Vivien Butot moeten beleidsmakers technologie niet als onvermijdelijk presenteren, maar een open debat faciliteren. Door Jeroen van Raalte 25
#3 Weerstand Zeldzaam voorbeeld van geslaagde burgerweerstand Het leek de gemeente Utrechtse Heuvelrug zo’n mooi idee. Lantaarnpalen uitgerust met wifi, geluidssensoren, camera’s en 5G, de vijfde generatie mobiele telecommunicatie. Maar toen een groep inwoners vijf jaar geleden lucht kreeg van het plan, kwamen zij in het geweer. Het collectief, genaamd Stralen doen we liever zelf, had grote zorgen over mogelijke gezondheidsschade door 5G-straling en over privacy van burgers. ‘We hebben toen een goed onderbouwde brief aan de gemeenteraad geschreven’, vertelt betrokken bewoner Marnix Lamers. Hun relaas vond gehoor. De groep sprak met raadsleden, lanceerde een petitie en mocht een raadsinformatiebijeenkomst organiseren. ‘De griffie van de gemeenteraad vond ons verhaal echt een aanvulling op het debat. Een wethouder vroeg ons zelfs advies over zijn nota lantaarnpalen.’ De gemeenteraad liet zich overtuigen. De lantaarnpalen kwamen er niet en vooralsnog is er geen 5G-netwerk in Utrechtse Heuvelrug. Het is een mooi, maar ook zeldzaam voorbeeld van burgerweerstand die zijn stempel drukt op de besluitvorming over een smart city-project. Bestuurders presenteren technologie als onvermijdelijk Zoals met veel technologische innovaties gebeurt, presenteren beleidsmakers het 5G-netwerk als onvermijdelijk, zegt smart- city-onderzoeker Vivien Butot. ‘Wat je precies vindt van een technologie, maakt in die visie niet zoveel uit. Maar burgers staan daar anders in. Zij ervaren machteloosheid, omdat de overheid hen steeds voor een voldongen feit plaatst.’ Je houdt het toch niet tegen, krijgt Lamers vaak te horen. ‘Dan denk ik: nou, dat hangt er maar net van af.’ Vivien Butot is promovendus aan de Erasmus Universiteit Rotterdam, waar hij onderzoekt hoe burgers reageren op het idee van de slimme stad. Hij analyseerde onder meer de publieke dynamiek rond 5G. Marnix Lamers was betrokken bij de lokale dialooggroep Stralingsbewust Utrechtse Heuvelrug - Stralen doen we liever zelf, die de gemeenteraad van Utrechtse Heuvelrug wist te overtuigen een pas op de plaats te maken met 5G-lantaarnpalen. 26
Butot onderzocht de dynamiek van het publieke debat over 5G. Waar het aanvankelijk nog over nut en noodzaak van de technologie ging, verdween die discussie algauw naar de achtergrond. ‘Naarmate de controverse groeide en zendmasten in brand werden gestoken, spitste het debat zich toe op de gezondheidsrisico’s. Volgens de overheid is het wetenschappelijk verantwoord en daarmee was de kous af. Over de wenselijkheid van 5G ging het niet meer.’ Terwijl er volop kanttekeningen te plaatsen zijn bij deze ‘onvermijdelijke’ innovatie. ‘Welk probleem lost 5G op? En welke implicaties heeft dat voor mensen? Die discussie wordt amper gevoerd.’ Dat er zelden georganiseerd protest is, betekent niet dat er geen weerstand is Wel overleg over een fietspad, waarom dan niet over scanauto’s? Komt er een fietspad, dan wordt de Fietsersbond gehoord. Over een nieuwe wijkaanpak mag de bewonersvereniging haar zegje doen. Maar bij welke burgers gaat de overheid te rade als het een smart city-toepassing betreft? ‘Bij technologie in de buitenruimte vindt veel minder een belangenafweging plaats’, zegt Butot. ‘Mensen worden aangesproken als consumenten die een smart city-product tot zich nemen, niet als belangengroep.’ Dat de smart city zelden stuit op georganiseerd protest, wil niet zeggen dat er geen weerstand is. Integendeel. ‘Er bestaat veel impliciet verzet tegen nieuwe technologieën, merk ik in gesprekken. Maar mensen weten vaak niet hoe ze hun ongenoegen kunnen kanaliseren.’ Bij de overheid kan het misverstand ontstaan dat men het wel best vindt. Als voorbeeld geeft Butot de scanauto’s die in zijn woonplaats al rondrijdend parkeerboetes uitdelen. De camerabeelden kunnen ook worden gebruikt om gedumpt afval te signaleren, bedacht de gemeente. ‘Privacy-technisch was het in orde, maar ik was sceptisch. Want ik weet dat in mijn buurt veel mensen tegen de scanauto’s zijn. Als de gemeente dan nieuwe toepassingen verzint, vergeet ze dat de technologie op zichzelf al controversieel is. Dat binnen het stadsbestuur consensus bestaat over de wenselijkheid, betekent niet dat de bevolking daar ook zo over denkt.’ 27
#3 Weerstand ‘Burger- participatie? Nee, overheids- participatie’ Menige smart city-toepassing is een oplossing op zoek naar een probleem. Het middel is dan al snel belangrijker dan het doel, ook in deze casus. ‘De problemen met onderhoud van de openbare ruimte bleken een bestuurlijke oorzaak te hebben. De gemeente heeft het beheer uitbesteed aan allerlei verschillende bedrijven. Scanauto’s zijn daar niet de oplossing voor.’ Betrek burgers vroeg én laat Participatie bij smart city-projecten is nu heel eenzijdig, observeert Butot. ‘Burgers worden pas laat betrokken in het besluitvormingsproces, wanneer de technologische oplossing al gekozen is. Dat voedt het gevoel van machteloosheid bij de burger. Wij pleiten voor contestability: dat burgers vanaf het begin worden betrokken in een debat over de noodzaak en de uitvoering, en dat ze ook na implementatie hun onvrede kunnen uiten.’ Door dit na te laten, creëert de overheid haar eigen oppositie: ‘Als Marnix’ groep niet was gehoord, waren zij misschien alsnog een harde oppositiegroep geworden.’ Lamers beaamt dit. ‘Wil je als burger meedoen met een overheid die alleen wat feedback vraagt bij een project dat al vaststaat? Of participeer je op een fundamenteel niveau, door mee te denken over problemen en oplossingen?’ Hij spreekt liever van ‘overheidsparticipatie’. ‘We zijn gewend geraakt aan een joekel van een overheid, waaraan we onze beleidskeuzes hebben uitbesteed. Dat komt steeds meer ter discussie te staan. Mensen eisen hun zeggenschap terug.’ Volgens Lamers vraagt dit om een andere houding van ambtenaren. ‘Zij moeten zich niet verschuilen achter een anoniem overheidsapparaat. Als beleid tegen de belangen van burgers indruist, moeten zij op hun strepen gaan staan.’ 28
‘We wilden niet tegenover, maar naast de gemeenteraad staan’ Succesvol weerstand bieden, zo doe je dat Dat de groep 5G-kritische inwoners succes had in Utrechtse Heuvelrug, dankt Lamers aan hun grondhouding. ‘We wilden niet tegenover, maar naast de gemeenteraad staan. Kritisch, maar niet met een gestrekt been erin. We noemden onszelf expliciet een dialooggroep. Die constructieve houding werd gewaardeerd. We hebben de gemeenteraad op hun bestuurlijke autonomie gewezen, dat ze dreigde de regie uit handen te geven. Toen krabden de raadsleden zich wel even achter de oren.’ Ook de open houding van de gemeente droeg bij aan een bevredigend proces. De gemeente erkende de kritische bewoners als belangengroep, faciliteerde inspraak en bewerkstelligde dat hun zorgen werden meegewogen. Tot Lamers’ tevredenheid stak de raad uiteindelijk een stokje voor de met snufjes uitgedoste lantaarnpalen. Had hij het besluitvormingsproces ook gewaardeerd als de raad een andere keuze had gemaakt? ‘Als ze weloverwogen toch voor die lantaarnpalen hadden gekozen, dan waren we teleurgesteld geweest, maar hadden we ons wel gehoord gevoeld.’ 29
#4 DE RELATIE TUSSEN OVERHEID EN INWONERS Hoe de slimme stad legitiem en dus te vertrouwen wordt Je hebt niets aan een slimme stad als de inwoners het zaakje niet vertrouwen. Chief Data Officer Tanaquil Arduin en bestuurskundehoogleraar Bram Klievink vertellen hoe je die situatie – enigszins – kunt voorkomen. ‘Maak een comfortabel gesprek mogelijk tussen ambtenaar en inwoner.’ Door Rianne Lindhout 30
31
#4 De relatie tussen overheid en inwoners Tanaquil Arduin is Chief Data Officer bij de Gemeente Den Haag en initieerde een landelijk netwerk voor CDO’s in de publieke sector waarbij in 2023 zo’n 60 collega’s zijn aangesloten. Zij is tevens Hoofd van het Expertisecentrum Data en AI van de gemeente Den Haag. Bram Klievink is hoogleraar bestuurskunde aan de Universiteit Leiden, met speciale aandacht voor digitalisering en publiek beleid. Hij onderzoekt hoe digitale innovaties in big data en algoritmen het openbaar bestuur uitdagen en kunnen versterken. Dit doet Den Haag met data Tanaquil Arduin was in 2019 een van de eerste Chief Data Officers in de publieke sector. Welke problemen kun je volgens haar oplossen met data en slimme technologie? ‘Voornamelijk kun je er inzichten mee verkrijgen over maatschappelijke opgaven. Zo kun je bepalen waar je je schaarse capaciteit het beste kunt inzetten. Schaarse handhavers, wijkmanagers of baliemedewerkers bijvoorbeeld. Ook kruispunten en wegvakken veiliger maken gebeurt doelgerichter op basis van data en technologie. Op basis van de drukte, het weer, eventuele evenementen of bouwactiviteiten en of er ook fietsers en in het bijzonder scholieren over de rijbaan moeten, kunnen we beter beoordelen of het risico op een ongeval groter of kleiner wordt.’ Stel dat bewoners bezorgd zijn over de verkeersveiligheid? ‘Wij kunnen niet alles tegelijk aanpakken. Zo’n systeem kan voor ons prioriteren welk kruispunt de meeste prioriteit heeft en waar we bij die kruising vooral op moeten letten. Wij kunnen ook uitleggen aan bewoners waarom dit kruispunt wel wordt aangepakt en dat kruispunt nog niet.’ Een ander algoritme voorspelt per woonwijk op basis van demografische gegevens, dus zonder persoonsgegevens, een toe- of afname in het gebruik van maatschappelijke ondersteuning voor de komende vijf jaar. ‘Wij weten dan of er in een wijk meer casemanagers, scootmobielen of huishoudelijke hulp nodig zijn en kunnen het voorzieningenniveau daarop aanpassen. Het werkt zo goed, dat de Vereniging van Nederlandse Gemeenten het gebruik van dit model, het Wmo voorspelmodel, wil gaan opschalen.’ 32
En zo laat Den Haag dat zien In totaal heeft Den Haag 26 algoritmen in gebruik die een rol spelen in de stad. Daarover wil de stad graag open zijn. Arduin: ‘We hebben de video- en podcastserie Dit doet Den Haag met data gemaakt.’ Volgens Youtube zijn de filmpjes enkele honderden tot duizend keer bekeken. ‘Daarnaast is er sinds dit jaar het Algoritmeregister van de Nederlandse overheid.’ Den Haag omschrijft daar al alle 26 algoritmen: wat het doet en waarom, of het zelflerend is of op regels gebaseerd en van welke data het gebruik maakt. Het is misschien niet in de eenvoudige taal die het voor zo veel mogelijk mensen begrijpelijk zou maken, maar het biedt wel een overzicht. Bram Klievink complimenteert Arduin: ‘Den Haag loopt voorop met het invullen van het register.’ Naar het algoritmeregister en de filmpjes moet je als burger actief op zoek gaan. Maar als je toevallig op een plek in de stad bent waar algoritmen gebruikt worden, heb je er niet zoveel aan. Voor die situaties ontwikkelt Thijs Turèl van het Amsterdam Institute for Advanced Metropolitan Solutions een richtlijn voor stickers op sensoren. Die kunnen vermelden wat de technologie wel en niet registreert, wie de eigenaar is van de apparatuur en waar mensen hun beklag kunnen doen (zie interview #3 Living labs). Vertrouwen, daar moet een overheid (soms tevergeefs) hard voor werken In het algoritmeregister staat ook informatie over de Amsterdamse Top400 en Top600, gericht op het vroeg signaleren van jeugdcriminaliteit en het voorkomen daarvan. De aanpak kwam in opspraak toen bekend werd dat de gemeente ook preventief de broertjes en zusjes van de jeugdige delinquenten in de gaten was gaan houden. Dat ondermijnt het vertrouwen van inwoners in het gebruik van systemen door de overheid. Net als bij de recente affaire rondom de kinderopvangtoeslag, waarbij de Belastingdienst een algoritme gebruikte dat mensen met een dubbele nationaliteit relatief vaak als potentiële fraudeur bestempelde. ‘Met data en technologie kun je bepalen waar je schaarse handhavers het beste kunt inzetten’ 33
#4 De relatie tussen overheid en inwoners Vertrouwen vormt de basis van een goede relatie tussen overheid en inwoners. Bram Klievink deed en kent er veel onderzoek naar. ‘Openheid over data- en technologiegebruik heeft hooguit een klein effect op het vertrouwen burgers. De ontwikkeling van vertrouwen in de overheid is een grotere beweging die conjunctuurafhankelijk is. Een gemeente kan daar niets aan doen, terwijl tegelijk het risico op wantrouwen groot is. Fouten die het vertrouwen beschamen, worden breed uitgemeten.’ Klievink analyseert het zo: ‘De meeste burgers hebben weinig met de overheid van doen. Wat ze doen – belastingaangifte, een paspoort aanvragen – gaat meestal goed. Er gaat ook veel fout, en dat betreft vaak kwetsbare mensen. Als de overheid die paar transacties van mij fijner laat verlopen of de Wmo beter verdeelt, merk ik daar niets van. En toch is het waardevol.’ Alle algoritmen gecheckt op mensenrechten Klievink: ‘Vertrouwen is voor de overheid iets externs waarop je weinig invloed hebt. Intern moet je je wel steeds afvragen of je betrouwbaar bent. Een overheid heeft macht, die moet ze legitiem aanwenden. Dat betekent dat je steeds moet afwegen of de opbrengsten van datagebruik of tracking-gegevens voor bijvoorbeeld veiligheid of kostenbesparing proportioneel zijn ten opzichte van de kosten of de eventuele inbreuk op privacy. De waarden moeten in balans zijn.’ In Den Haag is die publieke waardenafweging en de afweging van grondrechten een belangrijk onderdeel van de datastrategie die Arduin in 2019 opstelde met brede betrokkenheid van ambtenaren en politiek, beaamt zij. Arduin: ‘Wij leggen elk algoritme langs een meetlat, waarvan Amnesty International me recent zei dat ze het een goed instrument vinden. Het gaat om het IAMA, het Impact Assesment voor Mensenrechten en Algoritmen dat is ontwikkeld door de Utrecht Data School. Het IAMA stelt vragen die discussie oproepen. Is het bijvoorbeeld wel nodig om in die wijk dit of dat te monitoren? Wat betekent het voor de gelijkwaardigheid van inwoners, wordt er onnodig geprofileerd, of is het wel proportioneel? En is er sprake van informatiesymmetrie?’ ‘Een overheid heeft macht, die moet ze legitiem aanwenden’ 34
Informatiesymmetrie? ‘Dat is dat burgers en overheid dezelfde informatie hebben. Stel, je wilt de limiet op je creditcard verhogen, dan mag de creditcard-maatschappij heel veel informatie opvragen. Zij weten heel veel over jou, maar jij weet niet hoe zij precies bepalen of je limiet omhoog mag of niet. Geen informatiesymmetrie.’ Ethisch-juridische commissies zijn niet álles Klievink ziet wel een valkuil bij het afwegen van legitimiteit van stedelijke innovaties. ‘Commissies die het moeten doen, hebben vaak een technische, juridische en ethische aanvliegroute. Maar iemand anders moet er straks mee werken. Neem de digitale spiegelstad, een 3D-model van de hele stad waarmee je virtueel door de stad kunt navigeren. Elke dakkapel is erin te zien. Als iemand van de afdeling Vergunningverlening een illegale uitbouw ziet, moet ze er dan op af gaan of niet? En zo ja, welk gesprek voert ze dan? Het perspectief van de ambtenaar die er in de praktijk mee moet werken, mist nog weleens bij de afweging voor ingebruikname.’ Arduin beaamt: ‘Onze gemeente heeft 12.000 medewerkers, in zo’n ethische commissie zitten maar een paar mensen.’ Dat kan natuurlijk ook niet anders. Klievink: ‘Mijn advies zou zijn dat de commissie ook aandacht heeft voor de organisatorische kant, ook de HR-kant. De organisatie zet technologietoepassingen in binnen de context van beleid en van organisatieregels. Vervolgens beïnvloeden ze werkprocessen, raken aan andere processen en systemen. Uiteindelijk moeten ambtenaren die hun professionele kennis en routines meebrengen ermee werken. Dan kan de legitieme inzet van technologie in de slimme stad wellicht in theorie helder zijn, zonder echt richting te bieden in de praktijk. Zorg ervoor dat het gesprek dat ambtenaren met inwoners moeten voeren, comfortabel kan verlopen.’ ‘Wij leggen elk algoritme langs een mensenrechten- meetlat’ 35
#5 DE ROL VAN KUNSTENAARS IN DE SLIMME STAD Dilemma: een prettig ontwerp verhult slimme techniek Technologie en design grijpen diep in onze levens in. Dat gaat meestal zo soepel, dat we het amper merken. Dat is niet alleen maar goed. Hoe krijgen we de grip op al die innovaties terug? Kunstenaar Gill Baldwin en hoogleraar Bregje van Eekelen zien een rol weggelegd voor de verbeeldingskracht. Door Saskia Klaassen 36
37
#5 De rol van kunstenaars in de slimme stad Gill Baldwin bestudeert als beeldend kunstenaar onze relatie met het kunstmatige. Ze brengt de gevolgen in kaart van de steeds veranderende verwantschap tussen mensen en (technologische) kunstmatigheid. Bregje van Eekelen combineert methoden uit de culturele antropologie en geschiedenis om de verbinding tussen heden, verleden, en toekomst te verstaan. Ze is hoogleraar Ontwerp, Cultuur en Maatschappij aan de TU Delft en werd in 2023 dubbel benoemd als Leiden-Delft-Erasmus hoogleraar bij de Erasmus Universiteit Rotterdam. Het dilemma van een goed ontwerp De volgende generatie OV-poortjes zal ontworpen worden door mensen die nu haar studenten zijn aan de TU Delft, zegt Bregje van Eekelen. Zij worden zich steeds bewuster van de surveillance-maatschappij die ze niet alleen vormgeven, maar die hun eigen leven ook vormgeeft – en trackt. Van Eekelen onderzoekt hoe ontwerpkeuzes ervoor zorgen dat je gedachteloos langs zo’n OV-poortje kunt lopen en surveillance-camera’s nauwelijks ziet. Daardoor besef je dus amper dat je bewegingen worden vastgelegd en je hier achteraf op afgerekend kunt worden. ‘Ontwerpers leveren op die manier enerzijds een gebruiksvriendelijk product af, maar ze staan er niet bij stil dat ze anderzijds de gebruikers op die manier het bewustzijn van de aanwezigheid van technologie ontnemen.’ Het gaat allemaal wel erg snel In feite kun je de hele geschiedenis zien als een aaneenschakeling van technologische veranderingen, stelt Van Eekelen. ‘Zodra mensen zich bewust worden van de impact van zo’n verandering, volgt de vraag: willen we dit wel? En de constatering dat het allemaal te snel gaat.’ Maar terug naar een onschuldige samenleving is geen optie. ‘Het probleem met technologie is dat het onze levens vorm geeft en vergemakkelijkt op manieren die we ons niet goed kunnen voorstellen.’ Van Eekelen verwijst naar een kunstwerk van Kate Crawford en Vladan Joler, Anatomy of an AI system. ‘Ze ontrafelden een AI-systeem, de Amazon Echo, door weer te geven wat er nodig is om het te laten werken. Van energie en minerale bronnen tot 38
goedkope arbeid. Crawford ziet AI als een van de grootste politieke, culturele en sociale veranderingen in de geschiedenis, een verschuiving waarvan de meeste mensen zich niet bewust zijn.’ Crawford laat volgens Van Eekelen met haar werk zien hoe we verweven zijn met de wereld op manieren die ons voorstellingsvermogen te boven gaan. En dat door middel van de meest banale dagelijkse activiteiten, denk aan boodschappen doen, je salaris ontvangen of thuiswerken tijdens een lockdown. De kunstenaar kan ons wakker maken Dus de ontwerpers die de technologie van een slimme stad acceptabel en gebruiksvriendelijk maken, verhullen eigenlijk diezelfde technologie. Zo kan technologie ongemerkt steeds verder ingrijpen in onze levens. De blootlegging van technologie in sociale systemen is een belangrijk thema in het werk van kunstenaar Gill Baldwin. In 2020 maakte ze in Rotterdam de interactieve audiotour There is Something I’ve Been Meaning to Ask You. In een audiotour komen inwoners aan het woord over de surveillancesamenleving. Zoals filmmaker en kunstenaar Dorothy Cheung, die opvallende parallellen ziet tussen Rotterdam en haar geboortestad Hongkong. ‘Het verschil is dat China hier open over is, terwijl burgers in Nederland zich nergens van bewust zijn’, legt Baldwin uit. ‘Zij denken nog steeds dat de overheid open en transparant is en de beste bedoelingen heeft.’ Ook hoor je tijdens de audiotour architecte Beatriz Pero vertellen over haar ervaring met camera’s in Lima. Op dat moment binnen de tour sta je zelf in een streng bewaakte steeg met meerdere vormen van cameratoezicht. Baldwin deed ook een experiment met studenten. ‘Ik vroeg ze in kaart te brengen hoe ze op één dag worden gevolgd. Van de OV-poortjes in de metro tot de apps die ze gebruiken op hun telefoon. Dat bleek veel omvangrijker dan ze dachten. Ze deelden zelfs hun locatie met huisgenoten, iets wat voor mij ondenkbaar zou zijn.’ ‘Ontwerpers ontnemen gebruikers het bewustzijn van de aanwezige technologie’ 39
www.proefschriften.netRkJQdWJsaXNoZXIy MjY0ODMw