De inhoud van de AI Act, een cruciale wetgeving binnen de Europese Unie, is recentelijk officieel vastgesteld. Deze wetgeving heeft als doel duidelijkheid te scheppen over welke soorten kunstmatige intelligentie (AI) binnen de EU zijn toegelaten en welke regels daarvoor gelden. Hoewel de specifieke verplichtingen nog vaag zijn, is één ding zeker: AI-ontwikkelaars zoals Google en OpenAI moeten zich houden aan de auteursrechtelijke wetgeving.
De woorden van Ursula von der Leyen
Ursula von der Leyen, Voorzitter van de Europese Commissie, onderstreepte het belang van deze wetgeving. Zij benoemde de AI Act als het eerste alomvattende wettelijke kader voor AI wereldwijd. Echter, de precieze details van deze wetgeving blijven nog onduidelijk.
Criteria voor AI: Impact en risico
De nieuwe wet stelt dat de regelgeving voor AI afhankelijk is van twee factoren: het potentiële risico en de impact van de technologie. Systemen met een hoog risico, zoals die in de banken- en verzekeringssector of die verkiezingsuitslagen kunnen beïnvloeden, moeten een risico-beoordeling ondergaan. De details van deze beoordeling zijn echter nog niet bekendgemaakt.
Algemene AI-modellen en hun regels
Voor algemene AI-modellen, die niet gericht zijn op een specifieke gebruikersgroep, gelden aparte regels. Deze modellen tonen de uitdagingen in het vaststellen van de criteria. Zo kan algemene AI voor zowel onschuldige doeleinden als voor het opzoeken van persoonlijke gegevens of het creëren van malware gebruikt worden.
Lobbyen tegen de AI act
De vraag rijst of bedrijven als OpenAI, Microsoft en Google invloed hebben uitgeoefend om de AI Act naar hun hand te zetten.
Omgaan met auteursrechten en transparantie
Er is een nadruk gelegd op transparantie en naleving van auteursrechtelijke wetten. AI-ontwikkelaars zijn verplicht om technische documentatie te verstrekken en inzicht te geven in de gebruikte trainingsdata. Dit moet gebeuren met een overweging voor auteursrechten.
Het wegvallen van duidelijke labels
Opmerkelijk is dat in de definitieve overeenkomst bepaalde eerdere regels, zoals het markeren van AI-inhoud, niet meer aanwezig zijn. Dit maakt het herkennen van AI-generatie online inhoud moeilijker.
Categorisering van AI-systemen en verboden toepassingen
De wet deelt AI-systemen in categorieën in, variërend van minimaal tot onaanvaardbaar risico. Sommige toepassingen, zoals bepaalde vormen van biometrische identificatie en scraping, zijn verboden.
Geldboetes voor overtredingen
Ondanks verzet van landen zoals Duitsland, Frankrijk en Italië, zijn er aanzienlijke geldboetes opgenomen in de wet. Deze boetes kunnen oplopen tot 35 miljoen euro, afhankelijk van de ernst van de overtreding en de jaaromzet van de AI-producent.
Bescherming van AI-start-ups
Als compromis voor het beschermen van start-ups in de AI-sector, zijn er mogelijkheden zoals 'regulatory sandboxes' en 'real-world-tests' opgenomen. Dit stelt kleinere bedrijven in staat om de regels veilig uit te testen.
