Onderzoek
In het CVD werken de partners op diverse manieren samen aan kennisontwikkeling op het gebied van veiligheid en digitalisering. Practoraten (mbo) en lectoraten (hbo) voeren kortlopende onderzoeken uit waarbij studenten en docent-onderzoekers praktijkgerichte thema's aanpakken.
Er zijn een aantal projectenclusters en communities-in-ontwikkeling. We noemen hier:
Twintig begeleiders rond de zes PhDs die de drie CVD-thema’s bewerken, met subsidie van de Provincie Gelderland, in een zich ontwikkelende community o.l.v. Anna Sperotto en Bruno Verweijen.
Het landelijke door NWO gefinancierde CLIC-it projectconsortium o.l.v. Maaike Endedijk waarin het CVD deelneemt.
Ga voor meer informatie naar: https://tinyurl.com/cvdlearnin...
Het landelijke door NWO-SIA gefinancierde SPRONG programma Expertisenetwerk Cyberweerbaarheid NL waarin Remco Spithoven met zijn team het Oost-Nederlandse zwaartepunt vormt.
Het zojuist door NWO gegunde projectconsortium o.l.v. Martin Benning en Jaap Knotter: Criminal InvestigationDX - Advanced diagnostics for criminal investigations based on innovative micro/nano technology.
Ga voor meer informatie naar: https://tinyurl.com/cvdproject
Voor meer info: Lydia van der Hulst, programma manager (info@cvdnederland.nl) of Ben Kokkeler (b.j.m.kokkeler@cvdnederland.nl)
Traineeships
Studenten krijgen de kans om uitdagende traineeships te volgen, waarin ze werken aan actuele strategische vraagstukken. Samen met praktijkpartners worden consortia geformeerd waarin onderzoekers uit de gehele kenniskolom samenwerken aan vraagstukken rond cybersecurity, informatiegestuurd werken of kritische data en infrastructuur. Deze coalities worden ook betrokken bij de ontwikkeling van LLO programma’s en bij de ontwikkeling van gezamenlijke hoogwaardige onderzoekslaboratoria.
'Mijn resultaten zijn ietwat contra-intuïtief'
Als mensen werken met AI en machine learning systemen, kan dat leiden tot onbedoelde en ernstige gevolgen bij het opsporen van fraude. Daarvan zijn in meerdere landen de schadelijke gevolgen bekend. ‘In mijn onderzoek breng ik de onderliggende mechanismen in kaart’, zegt Spencer Poodiack-Parsons.
In zijn land van herkomst, de VS (Michigan), raakte Spencer Poodiack-Parsons onder de indruk van de beruchte MiDAS algoritmezaak. Die leidde tot de financiële ondergang van veel burgers. 93% van de aanklachten wegens sociale fraude, die voortvloeiden uit het gebruik van het systeem, bleken bij nader inzien onjuist.
‘In Nederland kennen we op onze beurt de Toeslagenaffaire,’ zegt Spencer. Hij maakt daarmee zijn punt duidelijk, en zegt: ‘Meerdere landen hebben te maken met soortgelijke voorbeelden. In mijn PhD-werk wil ik laten zien hoe mensen die met nieuwe technologieën zoals AI werken, toch degenen zijn die de uiteindelijk uitkomsten bepalen. Dat ga ik zo helder en duidelijk mogelijk doen.’
Politie
Waar sterke meningen en AI elkaar ontmoeten kunnen gevaarlijk eenzijdige en zich versterkende percepties en vooroordelen over de realiteit ontstaan. Als voorbeeld noemt Spencer de politie die optreedt in specifieke buurten bekend om hun hoge immigrantenpopulaties.
Hij vertelt welke gevolgen dat kan hebben: ‘Veel ambtenaren en politieofficials dachten dat de meerderheid van de inwoners fraudeerden, wat leidde tot onterechte arrestaties en aanklachten. Deze uitkomsten voedden vervolgens algoritmische systemen. Daarmee wordt deze bevolkingsgroep nog eens extra in een kwaad daglicht gesteld.’
Optimist
Dergelijke observaties zijn belangrijk voor Spencers promotieonderzoek. ‘Als we erin slagen om AI op een verstandige en mensgerichte manier in te zetten, dan kunnen we politieagenten en andere officiële autoriteiten juist helpen om minder bevooroordeeld te handelen,’ meent hij. Hier is de optimist in Spencer aan het woord, in persoon en als onderzoeker.
Sinds 2019 is het bestuderen van sociologische aspecten die menselijke actoren linken aan snel opkomende computertechnologieën van de grond gekomen. ‘Het momentum is nu, om echt impact te maken’, zegt Spencer. ‘Het blinde optimisme – toen sociale media en internet snel opkwamen - behoort voorgoed tot het verleden. AI, ChatGPT en andere grootschalige systeemalgoritmen mogen dan wel in opkomst zijn, we weten maar al te goed dat sociaal-technische interacties op microniveau tussen mensen en algoritmen het gedrag op macroniveau diepgaand beïnvloeden.’
Interdisciplinair
In zijn onderzoek hanteert Spencer een interdisciplinaire aanpak Hij combineert data science methoden met bestuurskundige kennis en inzichten. Voordat Spencer aan zijn PhD-project begon, werkte hij bij een hightechbedrijf in de VS. ‘En ik word op bestuurskundig niveau inhoudelijk begeleid door de wetenschappelijke experts binnen mijn begeleidingsteam aan de Universiteit Twente.’
Eerste analyses
In de eerste fases van zijn promotieonderzoek werkt Spencer aan theoretische concepten voor het construeren van hypothetische ‘onbevooroordeelde AI-algoritmen’. Deze test hij uit en simuleert ze in voorbeeldcases. ‘Zo kunnen onderzoekers leren om rekening te houden met factoren die verder gaan dan de techniek,’ zegt Spencer. ‘Zelfs perfecte AI kan tot risico’s leiden, als veranderingen in menselijk gedrag niet worden begrepen.’
Spencer: ‘Ik concentreer me vooraleerst op een analyse van voordelen en risico’s. Daarna kan ik vervolgscenario’s formuleren om echt impact te maken. Want praktisch relevant en bruikbaar onderzoek afleveren is mijn uiteindelijke doel. Mijn resultaten zullen tot op zekere hoogte contra-intuïtief zijn. Ik ben er namelijk van overtuigd dat mensen de belangrijkste beslissers zijn en blijven, ongeacht de systemen, zoals AI, die ze gebruiken. Ik hanteer een holistisch perspectief. Ik beschouw technologie als onderdeel van een overkoepelend onderling afhankelijk systeem naast mensen en instellingen.’
Wil je iets vertellen over je achtergrond?
Ik heb mijn bachelorsdiploma behaald aan de University of Connecticut in Political Science in 2014 en daarna het masterdiploma aan de University of Notre Dame in Data Science in 2020 (beide in de Verenigde Staten). Ik ben 32 jaar oud.
Hoever ben je in je PhD-traject?
In september 2024 werk ik twee jaar aan mijn promotieonderzoek. Daarna moet ik nog twee jaar.
Aan welke faculteit ben je verbonden?
Ik ben verbonden aan de Public Administration vakgroep van de faculteit Behavioural Management and Social Sciences (Bestuurskunde/BMS) aan de Universiteit Twente (UT).
Werk je fulltime aan je promotieonderzoek?
Ik werk fulltime aan mijn promotieonderzoek.
