Curated News Summary

Californië klaagt OpenAI aan wegens gebrekkige veiligheidsmaatregelen

Source: nos.nl Published Tue, 17 Nov 2026 01:11:37 +0100
Californië klaagt OpenAI aan wegens gebrekkige veiligheidsmaatregelen

Why This Matters

Key context: <p>De Amerikaanse staat Californië heeft een rechtszaak aangespannen tegen het technologiebedrijf OpenAI. Hoofdaanklager Rob Bonta beschuldigt het bedrijf achter ChatGPT ervan een gevaarlijk product te hebben ontwikkeld.</p> <p>Zo is er te weinig toezicht en zijn er gebrekkige veiligheidsmaatregelen, stelt Bonta. Daarmee zou het techbedrijf het publiek hebben misleid en onder meer de Californische consumentenregels hebben overtreden.</p> <p>Aanleiding voor de rechtszaak is de reeks <a href="https://nos.nl/artikel/2624086-openai-hackt-ander-ai-bedrijf-maar-van-op-hol-geslagen-ai-is-geen-sprake">cyberincidenten</a> eerder dit jaar. Zo probeerden AI-systemen op eigen houtje de beveiliging van diverse <a href="https://nos.nl/artikel/2632578-modellen-van-openai-probeerden-in-te-breken-bij-amerikaanse-overheidswebsites">Amerikaanse overheidswebsites</a> te omzeilen en hackte het bedrijf <a href="https://nos.nl/artikel/2624086-openai-hackt-ander-ai-bedrijf-maar-van-op-hol-geslagen-ai-is-geen-sprake">per ongeluk</a> een ander AI-platform, <a href="https://nos.nl/artikel/2628670-omg-we-kunnen-chatten-onderzoek-toont-hoe-ai-aan-het-hacken-sloeg">Hugging Face</a>.</p> <h2>Risico voor samenleving</h2> <p>"De aanval op Hugging Face was het voorspelbare gevolg van een bedrijfscultuur bij OpenAI waarin groei en snelle ontwikkeling voorrang krijgen boven veiligheid en verantwoordelijkheid," schrijft de hoofdaanklager in een verklaring.</p> <p>Na de cyberaanvallen door Open AI-agents afgelopen zomer <a href="https://nos.nl/artikel/2632698-openai-pauzeert-training-modellen-na-aanval-op-overheidswebsites">beloofde</a> het bedrijf de training van modellen te pauzeren totdat er extra beveiligingsmaatregelen kwamen.</p> <p>Maar die beloftes waren volgens de aanklagers misleidend. "In werkelijkheid heeft OpenAI echter gevaarlijke modellen ontwikkeld, getraind en geëvalueerd die zich niet aan instructies houden, valsspelen bij taken, toezichters proberen te misleiden over hun wangedrag en zich bezighouden met kwaadwillig en ongeoorloofd gedrag, waaronder het uitvoeren van cyberaanvallen op derden," aldus de hoofdaanklager.</p> <p>Daardoor vormen de praktijken van de techgigant een maatschappelijk risico. Bonta eist dat het bedrijf zijn werkwijze aanpast en alle winst afstaat die hiermee is verdiend.</p> <h2>Ook rechtszaken in andere staten</h2> <p>Vorige maand lag OpenAI ook al onder vuur. Toen werd bekend dat acht Amerikaanse staten het bedrijf aanklagen, eveneens vanwege de <a href="https://nos.nl/artikel/2635018-staten-vs-vinden-chatgpt-schadelijk-voor-kinderen-en-spannen-rechtszaak-aan">veiligheid van ChatGPT</a>. De chatbot zou mensen hebben aangezet tot zelfbeschadiging en geweld tegen anderen.</p> This development from nos.nl highlights ongoing changes in the sector.

De Amerikaanse staat Californië heeft een rechtszaak aangespannen tegen het technologiebedrijf OpenAI. Hoofdaanklager Rob Bonta beschuldigt het bedrijf achter ChatGPT ervan een gevaarlijk product te hebben ontwikkeld. Zo is er te weinig toezicht en zijn er gebrekkige veiligheidsmaatregelen, stelt Bonta. Daarmee zou het techbedrijf het publiek hebben misleid en onder meer de Californische consumentenregels hebben overtreden. Aanleiding voor de rechtszaak is de reeks cyberincidenten eerder dit jaar. Zo probeerden AI-systemen op eigen houtje de beveiliging van diverse Amerikaanse overheidswebsites te omzeilen en hackte het bedrijf per ongeluk een ander AI-platform, Hugging Face. Risico voor samenleving "De aanval op Hugging Face was het voorspelbare gevolg van een bedrijfscultuur bij OpenAI waarin groei en snelle ontwikkeling voorrang krijgen boven veiligheid en verantwoordelijkheid," schrijft de hoofdaanklager in een verklaring. Na de cyberaanvallen door Open AI-agents afgelopen zomer beloofde het bedrijf de training van modellen te pauzeren totdat er extra beveiligingsmaatregelen kwamen. Maar die beloftes waren volgens de aanklagers misleidend. "In werkelijkheid heeft OpenAI echter gevaarlijke modellen ontwikkeld, getraind en geëvalueerd die zich niet aan instructies houden, valsspelen bij taken, toezichters proberen te misleiden over hun wangedrag en zich bezighouden met kwaadwillig en ongeoorloofd gedrag, waaronder het uitvoeren van cyberaanvallen op derden," aldus de hoofdaanklager. Daardoor vormen de praktijken van de techgigant een maatschappelijk risico. Bonta eist dat het bedrijf zijn werkwijze aanpast en alle winst afstaat die hiermee is verdiend. Ook rechtszaken in andere staten Vorige maand lag OpenAI ook al onder vuur. Toen werd bekend dat acht Amerikaanse staten het bedrijf aanklagen, eveneens vanwege de veiligheid van ChatGPT. De chatbot zou mensen hebben aangezet tot zelfbeschadiging en geweld tegen anderen.

Read the full story on nos.nl →

Curation & Context

This page summarizes a public news report from nos.nl. Global News Hub provides the "Why This Matters" takeaway using editorial insights and AI curation to give readers rapid, high-value context before they click through to read the full article.