Florida krever forbud: ChatGPT skal ikke lenger late som det er et menneske

Floridas generalstaatsanwalt vil hindre OpenAI i å gi ChatGPT menneskelige egenskaper og gjøre det tilgjengelig for mindreårige. "Slutt å kalle det trygt. Slutt å late som det er menneskelig. Slutt å selge det til barn," krevde Uthmeier.

Florida har allerede saksøkt OpenAI tidligere i juni, med påstand om at ChatGPT har gitt informasjon til gjerningspersoner, gitt instruksjoner til selvskading og gjort unge brukere avhengige. Den nye begjæringen om midlertidig forføyning anklager OpenAI for at ChatGPT, gjennom jeg-formuleringer og simulerte følelser, gir inntrykk av et tillitsfullt vennskap for å binde brukere og samle treningsdata. Dessuten skal OpenAI ikke utvikle nye modeller uten godkjente sikkerhetsrammer fra tredjeparter.

OpenAI har nylig innført ungdomsbeskyttelsesfunksjoner og kunngjort ytterligere sikkerhetstiltak etter dødsfallet til en tenåring, men Florida ser ut til å anse disse tiltakene som utilstrekkelige. En talsperson for OpenAI uttalte at de har pausert treningen av de mest kraftfulle modellene og ønsker å samarbeide med Florida om bransjeomfattende KI-retningslinjer. Domstolen har ikke ennå tatt stilling til begjæringen.