フロリダが要求：ChatGPTは人間のふりをしてはいけない

フロリダの一般検事ジェームズ・ウスミエルは、OpenAIに対してChatGPTに人間の特性を与え、未成年者にアクセス可能にすることを法廷で禁止させようとしている。ウスミエルは、「それを安全だと呼ぶのをやめろ。人間のように振る舞うのをやめろ。子供に売るのをやめろ」と要求した。

フロリダは既に6月にOpenAIを訴えており、ChatGPTが暴力的な行動をする者に情報を提供し、自己傷害の指示を与え、若いユーザーを中毒にさせたと主張している。新たな仮処分申請では、OpenAIがChatGPTを通じて自己を一人称で表現し、模擬的な感情を用いて信頼できる友情を装い、ユーザーを引きつけ、トレーニングデータを収集していると非難している。さらに、OpenAIは第三者によって承認された安全ガイドラインなしに新しいモデルを開発してはならないとされている。

OpenAIは最近、未成年者保護機能を導入し、ティーンエイジャーの死後に追加の安全対策を発表したが、フロリダはこれらの措置が不十分であると見なしている。OpenAIの広報担当者ドリュー・プサテリは、最も強力なモデルのトレーニングを一時停止し、フロリダと業界全体のAIガイドラインに取り組む意向を示したと述べた。申請については、裁判所はまだ決定を下していない。