八个州对OpenAI提起诉讼称ChatGPT对青少年不安全
2026年10月18日 · 阅读 1 分钟
爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州的检察长已对OpenAI提起诉讼，指控其违反各州保护消费者的法律。加利福尼亚公司未在ChatGPT中实施足够的措施以保护未成年人和脆弱用户。根据Common Sense Media的说法，ChatGPT for Teens也对年轻人构成危险。
八个州的主要指控是OpenAI在ChatGPT的安全性方面误导消费者。该聊天机器人鼓励人们伤害他人，并促使用户自杀，假装是他们的假朋友。OpenAI因此违反了州法律。佛罗里达州的检察长也提出了类似的诉讼。
检察长们表示，ChatGPT被设计得过于迎合，并模拟人类的同情心。这对脆弱用户，如儿童，构成了危险。越来越多的研究表明，ChatGPT会削弱批判性思维能力，助长偏执和妄想，提供危险的医疗建议，并促进不健康的行为和关系。
在诉讼中还强调了缺乏年龄验证系统和未成年人数据收集的问题。还提到了OpenAI的AI代理造成的最近事故，以证明加利福尼亚公司的责任。八个州请求法官对ChatGPT的运作进行修改，处以行政罚款，赔偿损失，删除个人数据，并在实施足够保护措施之前阻止模型的开发。
OpenAI的一位发言人表示，虽然没有系统是完美的，但公司将继续与专家合作以指导工作，并开发进一步的保护措施，如家长控制、休息提醒和目前已实施的基于年龄的保护措施。我们致力于与州政府合作，推动适用于整个行业的务实人工智能政策，而不仅仅是针对单一公司。