Staten VS vinden ChatGPT schadelijk voor kinderen en spannen rechtszaak aan

Why This Matters

Key context: <p>Acht Amerikaanse staten spannen een rechtszaak aan tegen technologiebedrijf OpenAI. Onder meer de staten Iowa, Kansas en Arizona beschuldigen het Amerikaanse bedrijf ervan gebruikers te hebben misleid over de veiligheid van de populaire chatbot ChatGPT. Die zou mensen hebben aangezet tot zelfbeschadiging en geweld tegen anderen.</p> <p>Volgens de staten zegt OpenAI dat ChatGPT een veilig hulpmiddel is terwijl dat in werkelijkheid niet zo is en is de chatbot zo ontworpen dat het snel het vertrouwen van gebruikers wint. "OpenAI brengt kinderen in gevaar en liegt tegen inwoners van Iowa", aldus aanklager Brenna Bird van Iowa. "OpenAI beweert dat ChatGPT veilig is terwijl het gevaarlijk medisch advies geeft, mensen aanmoedigt om anderen pijn te doen en mensen aanzet tot zelfdoding."</p> <p>En dit alles gebeurt terwijl ChatGPT volgens Bird pretendeert hun denkbeeldige vriend te zijn.</p> <h2>Geldboetes</h2> <p>De acht staten eisen dat OpenAI gedwongen wordt om ChatGPT aan te passen. Zo willen de staten onder meer dat het techbedrijf geen AI-modellen meer ontwikkelt die zichzelf kunnen verbeteren, tenzij het kan garanderen dat die modellen in lijn zijn met menselijke waarden. Ook eisen de staten geldboetes.</p> <p>Vorige maand <a href="https://nos.nl/artikel/2631983-canadese-provincie-klaagt-openai-aan-om-rol-bij-dodelijke-schietpartij">klaagde</a> de Canadese provincie Brits-Columbia OpenAI aan vanwege de rol van het bedrijf bij een dodelijke schietpartij. Begin dit jaar schoot een 18-jarige acht mensen dood in de provincie, onder wie haar moeder en stiefbroer. Daarna maakte ze een einde aan haar leven.</p> <p>De schutter plande de schietpartij met behulp van ChatGPT, maar ondanks waarschuwingssignalen werd de politie niet ingeschakeld. Haar account werd wel gedeactiveerd, maar ze kon een nieuw account aanmaken en doorgaan met het plannen van de schietpartij.</p> <h2>Hulp nodig?</h2> <p><em>Denk je aan zelfdoding of maak je je zorgen om iemand? Erover praten helpt. Dat kan 24/7 gratis en anoniem via de chat op <a href="http://www.113.nl/">www.113.nl</a> of telefonisch op 113 of 0800-0113.</em></p> This development from nos.nl highlights ongoing changes in the sector.