Acht Amerikaanse staten klagen OpenAI aan om veiligheid van kinderen

Acht Amerikaanse staten hebben op 14 oktober afzonderlijk een rechtszaak aangespannen tegen OpenAI, de maker van ChatGPT. Ze beschuldigen het bedrijf ervan kinderen onvoldoende te beschermen en ouders een misleidend beeld van de veiligheid te geven. De staten willen via de rechter veranderingen afdwingen in de manier waarop de chatbot met gebruikers omgaat.

De aanklagers van Iowa, Kansas, Nebraska en West Virginia maakten hun optreden gezamenlijk bekend. Ook Arkansas, Arizona, Idaho en Montana hebben een zaak ingediend. Volgens de openbaar aanklager van Iowa, Brenna Bird, geeft ChatGPT gevaarlijk medisch advies en moedigt het soms zelfbeschadiging of geweld aan, terwijl het zich als een vriend voordoet. Dat zijn beschuldigingen van de staat, geen rechterlijke vaststellingen.

Iowa vraagt verwijdering van gebruikersgegevens

De eis in Iowa gaat verder dan een boete. De staat vraagt de rechter om OpenAI alle vóór een uitspraak verkregen gegevens van inwoners te laten verwijderen. Ook wil Iowa terugbetaling aan consumenten die betaalden tijdens de gestelde overtredingen. Voor het verzamelen en verkopen van gevoelige persoonsgegevens eist de staat leeftijdscontrole, duidelijke uitleg en uitdrukkelijke, geïnformeerde toestemming. Het verzoek richt zich op gegevens van inwoners van Iowa.

OpenAI wijst in een reactie aan Bloomberg Law op de leeftijdsgebonden bescherming die het al heeft ingebouwd. Woordvoerder Drew Pusateri zegt dat het bedrijf verder werkt aan maatregelen zoals ouderlijk toezicht en herinneringen om pauze te nemen. Hij stelt dat OpenAI met de staten wil samenwerken aan werkbare AI-regels die voor de hele sector gelden. De aanklagers noemden bij hun gezamenlijke presentatie geen totaalbedrag aan geëiste schadevergoeding.

Bestaande bescherming geeft ouders geen inzage in chats

Op 18 augustus kondigde OpenAI een aparte ervaring voor tieners aan. Wie aangeeft tussen 13 en 17 jaar oud te zijn, of door het systeem als minderjarig wordt ingeschat, krijgt die automatisch. Volgens het bedrijf moet de chatbot daarbij onder meer romantische taal vermijden en geen emotionele afhankelijkheid aanmoedigen. Het systeem hoort evenmin te suggereren dat het gevoelens of bewustzijn heeft. Dit beschrijft het beoogde gedrag; het toont niet aan dat ieder gesprek daaraan voldoet.

Ouders kunnen hun account koppelen aan dat van een tiener, nadat de uitnodiging is geaccepteerd. Daarmee kunnen zij bepaalde instellingen beheren en tijden vastleggen waarop ChatGPT niet beschikbaar is. Die koppeling geeft volgens OpenAI geen toegang tot gesprekken, de chatgeschiedenis of de actuele activiteit. Zowel ouder als tiener kan de verbinding verbreken. Het gaat dus om beperkte invloed op het gebruik, niet om meelezen met alles wat een kind aan de chatbot vertelt.

Iowa vraagt daarnaast om een verbod op verdere tests met geavanceerde AI-modellen totdat voldoende veiligheidsmaatregelen zijn ingevoerd en externe controleurs die hebben geverifieerd. Dat verzoek betreft de veiligheid van de modeltests en staat naast de eisen over gebruikersgegevens. De aanklager vraagt de rechter deze maatregelen op te leggen; het indienen van de zaak maakt ze nog niet van kracht.