In Sacramento lag een wetsvoorstel klaar dat grote stappen had kunnen zetten in de regulering van kunstmatige intelligentie. Het plan, bekend als AB 1018, beloofde burgers meer transparantie, inspraak en bescherming tegen algoritmes die beslissen over werk, huisvesting, zorg en verzekeringen. Mensen zouden voortaan het recht krijgen te weten wanneer AI hun toekomst bepaalde — en het recht om bezwaar te maken als die systemen fouten maakten.
Toch, net toen de laatste stemmingen nabij waren, besloot Californië op de rem te gaan staan. Het voorstel belandde op de stapel van de zogenoemde two-year bills: uitgesteld tot volgend jaar.
Botsende krachten achter de schermen
Wat op het eerste gezicht een logische stap leek richting meer burgerbescherming, bleek al snel een strijdtoneel van uiteenlopende belangen.
- De techsector trok aan de alarmbel. Grote bedrijven vreesden dat de regels innovatie zouden smoren en dat de bijkomende kosten torenhoog zouden oplopen.
- Overheidsinstanties wezen op de prijskaartjes: de naleving van de regels zou volgens berekeningen van de Judicial Council oplopen tot honderden miljoenen dollars per jaar.
- Burgerrechtenorganisaties en vakbonden zagen het juist anders. Zij wezen erop dat zonder duidelijke regels burgers weerloos blijven tegenover ondoorzichtige algoritmes.
Why California backed off again from ambitious AI regulationFor the third year, the state delayed AI regulation for disclosing and appealing many automated decisions by the state and companies. |
Verzwakte voorstellen
Om de wet werkbaar te maken, werden compromissen ingebouwd. Zo werden generatieve AI-systemen deels uitgezonderd en werd de verplichting voor ontwikkelaars om audits uit te voeren pas naar 2030 doorgeschoven. Voorstanders klaagden dat hierdoor de oorspronkelijke kracht van het plan grotendeels werd uitgehold.
Toch bleef één kernpunt overeind: bedrijven die weigeren een risico-analyse uit te voeren voor ingrijpende AI-toepassingen, zouden nog steeds $25.000 boete per overtreding riskeren.
Een politiek schaakspel
De beslissing om het voorstel op pauze te zetten, moet volgens kenners worden gezien als een strategische zet. Gouverneur Gavin Newsom wil meer tijd om met betrokken partijen te overleggen en om te voorkomen dat de wet in zijn huidige vorm strandt. Het komende jaar wordt dus gebruikt om draagvlak te creëren en tegenstellingen te overbruggen.
Ondertussen schuiven andere AI-wetten wel door, waaronder regels die werkgevers verplichten transparanter te zijn over hun gebruik van AI. Het onderwerp blijft dus hoog op de agenda, maar de grote sprong vooruit is voorlopig uitgesteld.
De balans tussen innovatie en bescherming
Het verhaal van Californië laat zien hoe moeilijk het is om evenwicht te vinden. Enerzijds wil de staat vooroplopen in technologische vooruitgang; anderzijds wil ze burgers beschermen tegen de schaduwkanten van diezelfde technologie.
Voorlopig blijft de vraag onbeantwoord: hoe streng mag de overheid zijn zonder de motor van innovatie stil te leggen? Het antwoord moet volgend jaar komen, wanneer AB 1018 opnieuw op tafel ligt.
