Nieuwe wetgeving tegen misleiding en schadelijke content
De Californische gouverneur Gavin Newsom heeft op maandag 13 oktober 2025 een reeks wetten ondertekend die de manier waarop AI-chatbots opereren ingrijpend veranderen. In het bijzonder legt de staat voor het eerst in de VS verplichtingen op aan chatbotontwikkelaars om gebruikers duidelijk te informeren dat ze met een AI spreken, en om mechanismen te voorzien die preventief optreden bij signalen van zelfbeschadiging of suïcidale gedachten.
New California law requires AI to tell you it’s AISB 243 requires chatbot developers to institute safeguards including notifications that a chatbot isn’t human. |
Onder de nieuwe regels moet een chatbot bijvoorbeeld om de drie uur een herinnering tonen aan minderjarige gebruikers dat ze rust moeten nemen, én aangeven dat het gesprek met een machine verloopt.
Gov. Newsom signs AI safety bills, vetoes one after pushback from the tech industry'Emerging technology like chatbots and social media can inspire, educate, and connect — but without real guardrails, technology can also exploit, mislead, and endanger our kids,' Newsom said. |
Bovendien wordt het voor chatbots verboden om zichzelf voor te doen als een mens of als medische professional, en moeten ze een protocol hebben om te reageren op uitingen van zelfbeschadiging.
California Gov. Gavin Newsom signs legislation on AI chatbotsThe package of bills aims to bolster protections for children using online chatbots, including prohibiting chatbots from representing themselves as healthcare professionals. |
Tegelijkertijd: veto op radicalere beperkingen
Tegelijk met de ondertekening van deze wetten besloot Newsom een meer verregaand voorstel af te wijzen (veto), waarin minderjarigen grotendeels geweerd zouden worden van toegang tot AI-chatbots. Hij vond dat het voorgestelde verbod te ver ging en per saldo kinderen zou uitsluiten van alle chatbotfuncties, ook die met educatief nut.
California governor vetoes bill to restrict kids' access to AI chatbotsCalifornia Gov. Gavin Newsom has vetoed landmark legislation that would have restricted children’s access to AI chatbots. |
Volgens Newsom moet de balans behouden blijven: technologie kan waardevol zijn, maar moet zorgvuldig gereguleerd worden zonder innovatie onderuit te halen. Techbedrijven oefenden felle druk uit om strenge regels te temperen, en sommige toezichthouders en kinderrechtenorganisaties plaatsten vraagtekens bij de nu gekozen compromissen.
Breder pakket aan maatregelen voor online veiligheid
De chatbotwetgeving maakt deel uit van een bredere wetspakket dat Californië vandaag ook goedkeurde om kinderen beter te beschermen in de digitale ruimte.
|
Governor Newsom signs bills to further strengthen California’s leadership in protecting children online | Governor of California
|
Enkele opvallende aanvullende maatregelen:
- Leeftijdsverificatie op apparaten en apps: fabrikanten zoals Apple en Google moeten bij het instellen van apparaten oudergegevens opvragen, zonder dat daarbij foto-ID’s of ouderlijke toestemming vereist zijn.
- Waarschuwingslabels op sociale media: platforms moeten jongeren actief wijzen op de mogelijke risico’s van langdurig gebruik.
- Aansprakelijkheid bij schadelijk gebruik: ontwikkelaars kunnen niet langer ontkomen aan aansprakelijkheid door te zeggen dat hun AI autonoom handelde.
- Zwaardere sancties bij verspreiding van niet-consensuele deepfake-porno: slachtoffers, ook minderjarigen, kunnen civiele vorderingen tot $250.000 indienen.
Wat staat op het spel?
Deze stap bevestigt Californië’s ambitie om een voortrekkersrol op zich te nemen in AI-regulering.
Voor ontwikkelaars van chatbots betekent dit dat compliance geen optie meer is, maar noodzaak. Zij moeten intern systemen opzetten om schadelijke of misleidende conversaties te detecteren en te corrigeren.
Voor jongeren en ouders is het nieuw dat er wettelijke garanties bestaan dat AI duidelijk moet zijn over zijn identiteit en dat er instrumenten komen ter preventie van mentale gezondheidsrisico’s.
Toch is het onduidelijk hoe effectief de maatregelen in de praktijk zullen zijn, zeker gezien de verzachtingen die tijdens het wetgevingsproces zijn doorgevoerd. Critici waarschuwen dat veel gevaren van AI buiten het bereik van deze wet blijven.
