De menigte ‘lezen’, loopstromen in de gaten houden, tijdig de juiste maatregelen treffen – het werk van crowdmanagers is bepaald niet eenvoudig. Hoogleraar Tina Comes onderzoekt daarom in hoeverre kunstmatige intelligentie, oftewel AI, kan ondersteunen bij hun taak. Daarbij let ze er goed op dat de AI-hulp transparant en verantwoord is: waarom is het advies zoals het is en is het überhaupt een situatie waarover AI zelfstandig advies kán geven?

Project
AI-Compass

Team
Tina Comes (TU Delft), Sascha Hoogendoorn-Lanser (MICD), Serge Hoogendoorn (TU Delft), Andrej Zwitter (RUG)

Parties
Argaleo, Future City Foundation, gemeente Den Haag, gemeente Rotterdam, Multi Intelligence Centre, Nationale politie, provincie Zuid-Holland, WE Labs 

Je wilt AI inzetten voor crowdmanagement. Waarom eigenlijk?

Tina Comes, hoogleraar Decision Theory & ICT for Resilience aan de faculteit Techniek, Bestuur en Management van de TU Delft

“Het gaat ons er vooral om dat crowdmanagers van de politie of een evenementorganisatie extra ‘ogen’ krijgen. Er zijn al systemen voor crowdmanagement en die kunnen alle data over de drukte op bijvoorbeeld de boulevard van Scheveningen prima presenteren. Maar het blijft lastig om een mensenmassa te ‘lezen’. Dat geldt vooral bij noodsituaties: een crowdmanager staat dan onder enorme druk om nú, meteen, te handelen. Uit onderzoek weten we dat de beslissers dan automatisch terugvallen op ervaring en intuïtie. Daardoor zijn ze minder goed in staat om bijvoorbeeld nieuwe informatie te verwerken en op waarde te schatten.

“Kunstmatige intelligentie kan dan helpen: AI is erg geschikt om patronen in data te herkennen en kan problemen dus vroeg signaleren, ruim voordat het uit de hand loopt. AI-systemen zijn ook sterk in het duiden van problemen en kunnen zelfs suggesties doen voor eventuele maatregelen. Bij dat laatste moet je uiteraard wel uitkijken voor nieuwe valkuilen.”

Hoe bedoel je dat?

“Aan de ene kant is uitsluitend terugvallen op ervaring en intuïtie niet goed. Maar blind vertrouwen op AI is net zomin verstandig. Wat we dus nodig hebben, is een systeem voor crowdmanagement waarbij de AI-adviezen transparant en herleidbaar zijn. Waar baseert het systeem z’n adviezen op, waar kan het ontdekte probleem toe leiden en wat doet de voorgestelde maatregel daaraan? Het is ook belangrijk dat AI als het ware zijn eigen grenzen kent. Wat zijn bijvoorbeeld situaties waar het systeem prima een advies over kan geven? Wanneer zou de rol van AI hooguit ondersteunend moeten zijn? En dan is het nog zaak om die informatie en adviezen op het juiste moment en op de juiste manier te presenteren. Je wilt geen ‘information overload’ creëren, dus wat heeft een verantwoordelijke nodig en wat kan hij aan?”

Hoe wil je dat precies aanpakken?

“We nemen in ons project van meet af aan ethische en juridische aspecten mee. Hoe kijken burgers en andere stakeholders tegen de inzet van AI aan? Hoe zit het met de aansprakelijkheid? En hoe blijven we als mens altijd de controle houden? We zetten de nieuwste technieken voor het verzamelen van gegevens en ‘explainable AI’ in. Dat is AI die voor mensen begrijpelijk is. We letten er ook goed op hoe we de informatie aanbieden. Zo gaan we onderzoeken hoe mensen informatie tot zich nemen en verwerken, en welke invloed dat heeft op hun beslissingsgedrag. Verbetert de informatie die je vindt je beslissingen? Welke informatie is het belangrijkst? Op welk moment heb je die nodig? Enzovoort. Wij gebruiken hier serious gaming voor, oftewel een realistische simulatie. Met die spelaanpak kunnen we op een veilige manier de zeer dynamische en stressvolle situaties van een potentieel crowdincident bestuderen. Alle nieuwe kennis en inzichten die we opdoen, gebruiken we vervolgens om instrumenten te ontwikkelen die niet alleen maatschappelijk verantwoord en transparant zijn, maar ook afgestemd zijn op de informatiebehoeften van besluitvormers.”

Hoe belangrijk zijn die instrumenten?

“Heel belangrijk! Crowdmanagement is niet alleen moeilijk, maar er doen zich ook steeds vaker calamiteiten en incidenten voor. Dat heeft onder andere te maken met verouderde en vaak ook overbelaste infrastructuur en met de vele grote evenementen die na corona weer worden georganiseerd. Maar denk ook aan de toegenomen maatschappelijke spanningen en de grotere kans op extreem weer. Crowdmanagers kunnen echt wel wat intelligente, ‘datagedreven’ hulp gebruiken!”

Gedrag, informatieverwerking en beslissingsondersteuning zijn vaste waarden in jouw onderzoeken. Vanwaar die interesse?

“Ik heb een achtergrond in wiskunde en besluitvorming. Ik heb in 2013 meegedaan aan een veldonderzoek naar tyfoon Haiyan, samen met onderzoekers die coördinatie en besluitvorming bestudeerden. Hoewel ik nog steeds een voorstander ben van data en AI bij crises en rampen, realiseerde ik me dat de zware omstandigheden waaronder vooral operationele besluitvormers werken, een flinke wissel trekken. Er is de druk om snel te reageren, de constante e-mails en verzoeken om hulp en dat gecombineerd met een gebrek aan slaap. Dit inspireerde mij om te verdiepen in hoe iemand beslissingen neemt. Ik ben ervan overtuigd dat alleen als we alles in samenhang zien, we AI kunnen ontwerpen die bruikbaar en nuttig is voor crises.”