MICD werkt samen met TU Delft en 24 andere partijen aan een onderzoek naar het inzetten van AI (kunstmatige intelligentie) bij crowd crises. Denk hierbij aan te grote drukte bij een evenement, een grimmige sfeer na een voetbalwedstrijd of een vluchtende mensenmassa bij een calamiteit. Doel is systemen te ontwikkelen die betrouwbare voorspellingen geven om een crisis te voorkomen en, in geval deze toch optreedt, real-time adviezen geven aan de autoriteiten. Zo worden veiligheidsrisico’s zo beperkt mogelijk gehouden. In het onderzoek wordt gezocht naar de optimale samenwerking tussen mens en AI.
Duur
2024 – 2029Partners (TU Delft)
TU Delft – CITG, afdeling Transport & Planning; TU Delft – TBM, Resilience LabPartners (andere)
24 partners, zie overzicht onderaan de pagina
Steden worden drukker en bij evenementen verloopt niet altijd alles vlekkeloos. Regelmatig wordt het te druk bij een evenement, slaat de sfeer bij een demonstratie om of er gebeurt iets in een winkelstraat waardoor een menigte in beweging komt. Het onderzoek moet allereerst inzicht bieden in de bepalende factoren bij het vooraf doen van goede voorspellingen, zodat een crisis überhaupt wordt voorkomen. Mocht dan toch een calamiteit ontstaan, dan is het zaak om hier direct op in te spelen. Het derde aspect waar het onderzoek zich op richt: is het zo veel mogelijk beperken van de gevolgen en leed te verminderen of te verzachten. Negatieve gevolgen voorkomen, beheersen en verminderen dus.
Voor gemeente, politie of andere instanties is het voorkomen van een onrustige menigte essentieel. Wanneer er toch een onveilige situatie ontstaat, moeten zij de menigte in goede banen leiden of op een andere manier ingrijpen, om escalatie te voorkomen en de veiligheid te waarborgen. In zeer korte tijd en onder hoge spanning moeten zij beslissingen nemen over de juiste maatregelen. Het inzetten van AI kan hierbij helpen: AI is bij uitstek geschikt voor het herkennen van patronen, razendsnel analyseren van data en het uittekenen van scenario’s. De beslissing over wat er moet gebeuren, blijft altijd bij een mens liggen: beleidsmakers en hulpdiensten nemen de adviezen in overweging, maar blijven altijd zelf ‘in control’.
Naar verwachting leveren de pilots waardevolle inzichten in de interactie tussen AI en mensen. Het onderzoek richt zich op het goed begrijpen de kwaliteiten van zowel mensen met veel kennis en ervaring, als AI-systemen. AI kan veel sneller dan de mens informatie kan halen uit de enorme hoeveelheden data. De dynamiek in groepen menigten is enorm complex. AI wordt ingezet om een schatting te maken van de huidige situatie en een voorspelling te doen: een vooruitblik voor het komende uur. Op basis van deze twee beelden wordt een voorzet gemaakt van de verschillende besluiten en de impact die deze besluiten mogelijk hebben.
De samenwerkingspartners ontwikkelen oplossingen voor verschillende situaties via twee pilots. In Den Haag en Rotterdam, twee steden met een verschillend karakter, worden de situaties uitgewerkt en getest. De combinatie van expertises in de dynamica van mensenmassa’s, geavanceerde sensortechnologie en AI maakt dit project uniek. Denk aan innovatieve digitale tools voor het plannen en monitoren van geplande én ongeplande gebeurtenissen. De inzichten worden later beproefd in de gemeenten Delft, Dordrecht en Sittard-Geleen. Alle betrokken partners in het project worden de gehele duur van het onderzoek betrokken, zodat de beslissingsondersteuning van AI breed toepasbaar wordt. Het is nadrukkelijk de bedoeling om tools te ontwikkelen die in de toekomst daadwerkelijk in de praktijk worden gebruikt.
Recent MICD-onderzoek met de Crowd Safety Manager leverde al interessante inzichten op, onder meer tijdens Koningsdag en de Marathon (Rotterdam, 2023), de Invictus Games en drukke stranddagen (Den Haag 2022 en 2023). Op basis van verzamelde data, werden gedegen analyses gemaakt, die betrouwbare voorspellingen opleverden. Dit is zeer waardevol voor de tijdige inzet van de juiste persoon op de juiste plaats en het correct begeleiden van het publiek. Maar voordat AI daadwerkelijk als ondersteunend instrument bij dergelijke cruciale beslissingen kan worden ingezet, is maatschappelijke acceptatie noodzakelijk. Daarbij spelen aspecten als het waarborgen van privacy en het begrijpen hoe een advies tot stand komt (zogenoemde explainable AI), een belangrijke rol. Oftewel: AI-COMPASS wil gedragswetenschappelijk, ethisch en AI-onderzoek samenbrengen om de samenwerking tussen mens en technologie optimaal in te zetten om de openbare veiligheid te verbeteren.
