- Home >
- Services >
- Access to Knowledge >
- Trend Monitor >
- Source of threat >
- Trend snippet: Artificial Intelligence (AI) is the most influential technology at the moment
Trends in Security Information
The HSD Trendmonitor is designed to provide access to relevant content on various subjects in the safety and security domain, to identify relevant developments and to connect knowledge and organisations. The safety and security domain encompasses a vast number of subjects. Four relevant taxonomies (type of threat or opportunity, victim, source of threat and domain of application) have been constructed in order to visualize all of these subjects. The taxonomies and related category descriptions have been carefully composed according to other taxonomies, European and international standards and our own expertise.
In order to identify safety and security related trends, relevant reports and HSD news articles are continuously scanned, analysed and classified by hand according to the four taxonomies. This results in a wide array of observations, which we call ‘Trend Snippets’. Multiple Trend Snippets combined can provide insights into safety and security trends. The size of the circles shows the relative weight of the topic, the filters can be used to further select the most relevant content for you. If you have an addition, question or remark, drop us a line at info@securitydelta.nl.
visible on larger screens only
Please expand your browser window.
Or enjoy this interactive application on your desktop or laptop.
Artificial Intelligence (AI) is the most influential technology at the moment
Het vitale belang van verantwoorde AI Artificiële Intelligentie (AI) is zonder enige twijfel de meest invloedrijke technologie van dit moment. Van de rechtspraak tot het onderwijs, van de zorg tot het openbaar bestuur, en van ons dagelijks internetgebruik tot de journalistiek: overal in de samenleving spelen algoritmes een steeds grotere rol in ons doen en laten. Die invloed wordt zowel bejubeld als gevreesd. AI kan een positieve invloed hebben op de maatschappij en de economie, maar heeft ook een keerzijde. Zitten er geen vooroordelen ingebakken in algoritmes en data, en wordt er niemand buitengesloten? Kunnen mensen nog wel overzien hoe AI-systemen werken, en verantwoordelijkheid nemen voor beslissingen die ze nemen op basis van AI? Deze grote impact van AI op mens en maatschappij brengt een bijzondere verantwoordelijkheid met zich mee. Zowel voor de ontwerpers en ontwikkelaars van AI-systemen als voor de toepassers en gebruikers ervan. Hoe kunnen we AI-systemen verantwoord ontwerpen? Hoe kunnen we bepalen of deze systemen verantwoorde data gebruiken? En hoe kunnen we ze op een goede manier maatschappelijk inbedden en gebruiken? Het belang van deze vragen wordt breed herkend en in 2019 was er bijna geen branche, regering, bedrijf dat niet een ethische code had opgesteld. Het jaar 2019 is de boeken al ingegaan als het jaar van de AI-ethiek.1 Ook in de internationale verhoudingen is het streven naar ‘verantwoorde AI’ van cruciaal belang. In de mondiale concurrentiestrijd profileert Europa zich immers steeds nadrukkelijker als ‘derde weg’, naast de kapitalistische benadering van ‘Big Tech’ in het Westen en de centralistische benadering van staatscontrole in het Oosten. In deze derde weg staat de mens centraal. Niet alleen commerciële belangen van bedrijven of de behoefte van de staat om de samenleving te kunnen sturen vormen hier de drijvende kracht, maar de ambitie om AI te verbinden met menselijke waarden. Mensgerichte AI als de derde weg, een weg die Oost en West met elkaar verbindt, en AI ten dienste van de gehele mensheid wil stellen. Nederland heeft de potentie om een kernspeler te zijn in deze derde weg. Het wetenschappelijk onderzoek op AI-gebied is van hoog niveau en Nederland kent veel succesvolle AI-gerelateerde bedrijven. Het poldermodel van de Nederlandse economie vormt bovendien een uitstekende basis om overheid, wetenschap, bedrijfsleven en de samenleving met elkaar te verbinden. Daarnaast heeft het Nederlandse onderzoek op het gebied van Maatschappelijk Verantwoord Innoveren (MVI) en de ethiek van technologie een mondiale toppositie.2 In de Nederlandse aanpak wordt ethiek sterk verbonden met technologisch ontwerp: ethische reflectie mondt niet alleen uit in mooie beschouwingen maar slaat ook neer in de technologie zelf. Deze pragmatische aanpak biedt een solide basis om niet alleen ethisch te praten over AI, maar om AI ook ethisch vorm te geven. Daarbij gaat het niet alleen om de algoritmes, maar ook om de vraag hoe, waar en door wie ze worden toegepast. Gebeurt dat rechtvaardig, met respect en met solidariteit? Algoritmes worden bovendien altijd getraind met data. Eerlijke algoritmes vergen dan ook representatieve trainingsdata.3 Het wordt dan ook tijd om deze unieke kracht van Nederland optimaal te benutten voor mensgerichte Artificiële Intelligentie. Om dat duidelijk te maken laten we hieronder allereerst zien op welke manier AI de samenleving aan het veranderen is en wat daarin de uitdagingen zijn: we zitten in de ‘vierde industriële revolutie’, die tot de ‘vijfde samenleving’ leidt. Wij pleiten vervolgens voor een benadering waarin AI-systemen worden ontwikkeld vanuit een ethisch verantwoord en maatschappelijk zinvol perspectief. Tot slot verbinden we die benadering met de rollen die alle partijen in de ‘quadrupel helix’ kunnen spelen – overheid, bedrijfsleven, wetenschap en de burger – om zodoende een duurzame en verantwoorde basis voor welvaart en welzijn te realiseren.
De impact van AI: van ‘Industry 4.0’ naar ‘Society 5.0’? Artificiële Intelligentie is onderdeel van wat wel de ‘vierde industriële revolutie’ wordt genoemd. In deze revolutie wordt digitale technologie fysiek: het internet wordt een internet-der-dingen, en de computer krijgt een lichaam als robot. Door deze technologische ontwikkelingen beweegt onze samenleving zich volgens sommigen in de richting van ‘Society 5.0’: de vijfde samenleving na de vierde revolutie. 4 Na de tijd van de jagers-verzamelaars bracht de ploeg een overgang naar de agrarische samenleving, waarna de stoommachine de industriële samenleving mogelijk maakte en de computer tot de informatiesamenleving leidde. De vierde revolutie leidt nu tot ‘de digitale samenleving’, in Japan ook wel aangeduid als de ‘super smart society’. Als volgende stap moeten we antwoord geven op de vraag hoe AI invloed zal hebben op de relatie tussen professionals en hun organisaties, en op het ontwikkelen van nieuwe productiviteitsconcepten zoals ‘een leven lang leren’ en participatieve arbeidsmarktskills. De kern van de maatschappelijke impact van AI ligt in haar invloed op het cognitieve functioneren van de mens: AI verandert het menselijke denken en waarnemen. Historisch gezien is dat niet voor het eerst. Al eerder had het schrift grote invloed op hoe ons geheugen werkt: Plato was al ongerust dat we niets meer zouden kunnen onthouden als we alles zouden gaan opschrijven, en de boekdrukkunst leidde tot een democratisering van kennis en legde de basis voor de wetenschappelijke revolutie. Wat is de nieuwe stap in ons denken die AI teweeg gaat brengen? Wat gaat er gebeuren met ons begrip van de wereld en van onszelf, onze morele en politieke opvattingen en besluiten, onze existentiële vragen en kwetsbaarheden? En hoe zal AI invloed hebben op het functioneren van onze democratie, op de relatie tussen burgers en overheid, en op mogelijkheden tot participatie aan de samenleving?
Er kunnen drie niveaus van impact van AI worden onderscheiden. Op individueel niveau beïnvloeden AI-systemen de keuzes, gedragingen, en interpretatiekaders van individuele gebruikers: zoekmachines kleuren met welke informatie mensen hun wereldbeeld opbouwen, expertsystemen geven artsen en rechters een kader voor een diagnose of een vonnis. Op sociaal niveau werkt deze invloed door in een grote variëteit van domeinen waaronder de zorg (zoals het detecteren van kankercellen in afbeeldingen), het onderwijs (adaptief lesmateriaal) en de rechtspraak (expertsystemen), verkeer en vervoer (via zelfrijdende voertuigen), en journalistiek (‘automated journalism’). Op maatschappelijk niveau, tenslotte, beïnvloedt AI de organisatie van de samenleving: ‘predictive policing’ verandert de aard van de handhavende taak van de politie, zoekmachines beïnvloeden politiek engagement en algoritmes zijn betrokken in militaire besluitvorming