- Home >
- Services >
- Access to Knowledge >
- Trend Monitor >
- Domain of Application >
- Trend snippet: More Legal Framework is Needed for Large Language Models in the Netherlands
Trends in Security Information
The HSD Trendmonitor is designed to provide access to relevant content on various subjects in the safety and security domain, to identify relevant developments and to connect knowledge and organisations. The safety and security domain encompasses a vast number of subjects. Four relevant taxonomies (type of threat or opportunity, victim, source of threat and domain of application) have been constructed in order to visualize all of these subjects. The taxonomies and related category descriptions have been carefully composed according to other taxonomies, European and international standards and our own expertise.
In order to identify safety and security related trends, relevant reports and HSD news articles are continuously scanned, analysed and classified by hand according to the four taxonomies. This results in a wide array of observations, which we call ‘Trend Snippets’. Multiple Trend Snippets combined can provide insights into safety and security trends. The size of the circles shows the relative weight of the topic, the filters can be used to further select the most relevant content for you. If you have an addition, question or remark, drop us a line at info@securitydelta.nl.
visible on larger screens only
Please expand your browser window.
Or enjoy this interactive application on your desktop or laptop.
More Legal Framework is Needed for Large Language Models in the Netherlands
Taalmodellen, in het Engels 'large language models (LLM)' genoemd, zijn kunstmatige neurale netwerken die gevoed zijn met miljarden stukjes tekstinformatie. Taalmodellen zijn een vorm van disruptieve technologie die door een ontwrichtende werking verschillende aspecten van en werkwijzen in onze samenleving en in gemeentelijke organisaties kunnen veranderen.
Toch is het belangrijk om te beseffen dat een taalmodel niets meer is dan een woordvoorspeller die zelfgeproduceerde teksten niet ‘begrijpt’ zoals een mens dat doet. De kansen van taalmodellen liggen onder andere in het aanbieden van meertalige dienstverlening aan inwoners en het sneller produceren van (bijvoorbeeld beleidsmatige) teksten. Maar doordat de huidige technologie die ten grondslag ligt aan taalmodellen momenteel nog ‘onvolwassen’ is, liggen destructieve gevolgen op de loer.
Zo is op het moment de bescherming van persoonsgegevens niet gewaarborgd. Discriminatie en vooroordelen in de output zijn niet uitgesloten doordat modellen worden getraind op mogelijk schadelijke en ongewenste data. Ook is het aannemelijk dat deze data persoonsgevens en andere gevoelige informatie bevatten die aantrekkelijk zijn voor cybercriminelen.
Menig taalmodel blijkt zinnen en informatie te ‘hallucineren’ wat kan leiden tot misinformatie. Naarmate taalmodellen meer gekoppeld gaan worden en dit soort ‘gehallucineerde’ teksten gebruikt worden, kan de ontwikkeling van desinformatie gigantisch versnellen. Voor overheden zijn er daarmee nog flink wat risico’s verbonden aan het gebruik van taalmodellen.
Op verschillende niveaus wordt er gewerkt aan beleid rondom de toepassing van taalmodellen. De AI Act is een Europese wet die kaders schept voor bedrijven en organisaties die handelen in op artificiële intelligentie (AI) gebaseerde producten en diensten. In Nederland werkt het kabinet aan een nationale visie voor generatieve AI. Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) voert daarbij de regie, waarbij een visie wordt geformuleerd die op waardengedreven wijze oog heeft voor zowel de uitdagingen als de kansen van deze technologie.
Ook gemeenten die experimenteren met taalmodellen moeten daarbij de bescherming van publieke waarden goed in de gaten houden. Dit kunnen zij doen door:
- de dialoog te voeren binnen de organisatie;
- transparant te zijn over gemaakte keuzes;
- altijd een mens eindverantwoordelijk te maken.
Door te experimenteren, kunnen gemeenten stap voor stap beleid vormen met betrekking tot taalmodellen. Mogelijk kan de rijksoverheid hen daarbij helpen, door regie te nemen op de toepassing van taalmodellen en bestuurlijke samenwerking op dit punt.