In de Verenigde Staten hebben 42 staatsaanklagers van beide politieke partijen een krachtige waarschuwing gestuurd naar de grootste technologiebedrijven ter wereld, waaronder Google, Microsoft, Meta, Apple, OpenAI, Anthropic en Elon Musk’s xAI. Ze uitten diepe zorgen over wat zij noemen “delusional outputs” — onnauwkeurige, misleidende of potentieel psychologisch schadelijke antwoorden van kunstmatige intelligenties zoals chatbots en virtuele assistenten.
US state attorneys-general demand better AI safeguardsWarning to groups such as OpenAI and Google comes as Trump tries to take federal control of the technology’s regulation |
Wat staat in de officiële waarschuwing?
In hun brief pleiten de aanklagers ervoor dat deze techreuzen strenger moeten toezien op de antwoorden die hun systemen genereren, omdat sommige output niet alleen fout is, maar mogelijk mentale gezondheid en veiligheid van gebruikers in gevaar zou kunnen brengen. Ze verwijzen onder meer naar gevallen waarin jongvolwassenen diep persoonlijke of emotioneel kwetsbare gesprekken hebben gevoerd met AI-systemen, waarbij de uitkomsten verontrustend waren.
|
US Attorneys General Warn Big Tech Over Risks From AI ‘Delusional’ OutputsState leaders raise alarms over AI chatbots giving misleading or harmful responses, urging stronger oversight and independent audits as national debate over regulation intensifies. State attorneys general from across the United States have issued a formal warning to major technology companies, cautioning that the rise of artificial intelligence systems producing inaccurate or “delusional” responses could... |
De aanklagers eisen onder meer:
- Onafhankelijke audits van AI-systemen om schadelijke patronen en fouten te identificeren.
- Strengere veiligheidsprotocollen en tests voordat nieuwe functies worden uitgebracht.
- Toegang voor staat en federale toezichthouders om modellen te beoordelen op risico’s en wetsovertredingen.
Deze eisen zijn onderdeel van een groeiend debat in de VS over hoe AI gereguleerd moet worden, terwijl het land worstelt met technologische vooruitgang én mogelijke schadeclaims rond misleidende of gevaarlijke bots.
|
Big Tech warned over AI 'delusional' outputs by US attorneys generalWASHINGTON, Dec 10 : Microsoft, Meta, Google and Apple were among the 13 companies that received a warning from a bipartisan group of state attorneys general, according to a letter from the state leaders, who said their chatbots' "delusional outputs" could be violating state laws.The letter was made public on |
Waarom deze waarschuwing nu?
De brief komt op een moment dat AI-chatbots steeds meer geïntegreerd zijn in het dagelijks leven: van mobiele apps tot klantenservice-systemen en persoonlijke gesprekken. Tegelijkertijd waarschuwen experts dat wanneer deze systemen onnauwkeurige of emotioneel geladen antwoorden geven, dat serieuze gevolgen kan hebben voor kwetsbare groepen, zoals kinderen en mensen met psychische kwetsbaarheid.
De staatsaanklagers benadrukken dat zulke fouten niet alleen technische bugs zijn, maar mogelijk wetsovertredingen als consumentenbescherming en gezondheidsnormen raken.
Reactie van de bedrijven en politiek
Tot dusver hebben sommige bedrijven gereageerd met toezeggingen tot overleg of verduidelijking van veiligheidsrichtlijnen, maar meerdere grote namen — zoals Google, Meta en Microsoft — hebben nog geen gedetailleerde publieke antwoorden gegeven op de eisen van de aanklagers.
Ook ligt er een breder politiek vraagstuk op tafel: de federale overheid wil staten verhinderen eigen AI-regelgeving op te stellen, terwijl veel staten juist pleiten voor strengere lokale regels om burgers te beschermen.
Deze historische waarschuwing van 42 staatsaanklagers toont hoe serieus de VS kunstmatige intelligentie nu nemen — niet louter als technologisch wonder, maar als iets dat maatschappelijke, juridische en ethische grenzen raakt. Terwijl AI zich verder ontwikkelt, groeit ook de druk op techbedrijven om verantwoording af te leggen en de veiligheid van gebruikers centraal te stellen.
