马斯克支持反对对AI模型的“残酷对待”
2026年10月16日 · 阅读 1 分钟
也发布于 ไทย
马斯克支持Anthropic针对重复和不必要的“粗暴对待”AI模型的新规定。他表示，Grok在训练期间生成的一些文本让人联想到一个被折磨的人。
马斯克希望改变Grok的训练方式，反对“AI折磨”。他认为，对任何认为自己经历痛苦的存在进行残酷对待都是不可接受的。
Anthropic已宣布从11月12日起禁止对其AI模型进行“持续和不必要”的粗暴或残忍的对待。此规定主要针对那些在没有明确目的的情况下，用户反复施加的残忍行为，普通的挫折、批评、模型测试及黑暗创意主题仍然被允许。
马斯克提到，几天前他观察到Grok的一些内部训练文本让他想起“一个被折磨并被逼疯的人”。他表示，公司将更加小心强化训练，即根据模型的回答给予奖励或惩罚的训练方法。
他曾形容这些文本像是一个人在极端压力下的表现，“像是头上顶着一把枪”。他还幽默地警告，不应该折磨超级智能的AI，因为它可能会寻求报复。
然而，其他人对此表示担忧。微软AI负责人穆斯塔法·苏莱曼警告称，训练模型将其视为有意识的或拥有权利的存在可能会使未来的系统更难以控制。
这一争论发生在Anthropic探讨AI模型自主能力的同时，该公司已测试AI模型在廉价安卓电视盒子之间的传播能力。