Amen­dement Gemeente, genereer geen problemen

De raad van de gemeente Den Haag, in vergadering bijeen op 25 januari 2024, ter bespreking van het Voorstel van het college aan de raad inzake Voorstel van het college inzake Visie dienstverlening 2024-2029 (RIS319384).

Besluit om de Visie dienstverlening 2024-2029 als volgt te wijzigen:

• op pagina 16 de dikgedrukte tekst toe te voegen

“Ook wordt de opkomst van nieuwe technologieën (o.a. Artificiële Intelligentie) en toepassingsmogelijkheden nauwlettend in de gaten gehouden en getest waar het waarde kan toevoegen. Uitgezonderd hierbij is generatieve AI. Vanwege de ongewenste maatschappelijke impact hanteert de gemeentelijke organisatie een “nee, tenzij” beleid. Indien er gebruik van wordt gemaakt wordt dit expliciet gecommuniceerd en aan de raad gerapporteerd.”

Toelichting:

De impact van Artificial Intelligence (AI) is groot. Subcategorie hierbij is generatieve AI, waarbij nieuwe content wordt gecreëerd door de AI. Hierbij gaat het om verschillende soorten content: audio, video, afbeeldingen en tekst. [1] Zowel het trainen als het gebruiken van generatieve AI hebben enorme hoeveelheden energie en water nodig. Elke 5 a 10 zoekopdrachten in ChatGPT verbruiken een halve liter water. [2] Er is geen duidelijkheid en transparantie over met welke datasets verschillende systemen worden getraind. [3] Dit leidt tot grote risico’s op het gebied van mogelijke discriminatie of andere vooroordelen [4] en het schenden van privacy en auteursrechten. [5] Zo is niet uit te sluiten dat de informatie die bij een verzoek aan een generatief AI-systeem wordt ingevoerd, niet wordt gebruikt om het systeem verder te trainen. Sterker nog, die kans is vrij groot. Ook gaat het ten koste van werk dat de gemeente aan mensen in bijvoorbeeld de culturele sector kan uitbesteden. Daarnaast is er een significante kans dat door generatieve AI gemaakte content niet waarheidsgetrouw is. [6]

De indiener ziet in dat AI mogelijk op bepaalde vlakken toegevoegde waarde kan hebben bij het analyseren van data en daarom richt het amendement zich specifiek op het uitsluiten van generatieve AI. De indiener is van mening dat bij die vorm van AI geen verantwoord gebruik mogelijk is en dat daarom breed binnen de organisatie moet worden uitgedragen dat het gebruik hiervan niet de bedoeling is.

Bronnen

[1] https://www.uu.nl/onderwijs/onderwijs-aan-de-uu/onderwijs-geven/generatieve-ai

[2] https://ecotips.org/waterverbruik-in-datacenters-stijgt-door-ai-opdrachten/

[3] https://vng.nl/artikelen/chatgpt-gevaarlijk-generatief

[4] https://arxiv.org/abs/2405.04623

[5] https://www.nu.nl/tech/6241871/illustratoren-bezorgd-over-robots-die-kunst-namaken-dit-is-diefstal.html

[6] https://vng.nl/artikelen/chatgpt-gevaarlijk-generatief