OpenAI开始对生成的文本进行标记
2026年10月12日 · 阅读 1 分钟
OpenAI在生成的文本上开始实施标记，以符合即将生效的人工智能法案。初步部署已在API上进行，未来几周将扩展到ChatGPT和Codex，主要在欧盟地区。该法案要求在2026年8月2日之前投放市场的人工智能系统标记其生成的内容，相关供应商需在2026年12月2日之前合规。
欧盟指出，目前没有任何技术满足该法案规定的四个标准：有效性、互操作性、稳健性和可靠性。为了满足要求，建议结合多种技术，优先考虑签名元数据和隐形水印。由于自由文本无法承载元数据，因此单一层次被认为足够。为了应对自由文本标记可能降低的可靠性，相关供应商可限制专家用户访问相应的检测解决方案，该解决方案可通过规范、软件或API提供。
OpenAI选择了软件作为最终选项，并承诺将来会发布开源版本。其技术称为textGrain，轻微偏向token选择，结合了先前文本的秘密密钥。为了平衡可追踪信号的插入与生成回答的多样性，问题被建模为通过最优运输的统计配对形式。
OpenAI声称该技术的性能超越了其测试的其他方法，包括SynthID，但也承认其局限性。例如，在400个token的段落中，将10%的单词替换为同义词会导致检测率从92%降至66%。如果替换四分之一，检测率将降至17%。在较短的段落中，检测效果较差，比如在200个token的目标假阳性率为1%的情况下，检测率为80%。在模型较少自由度的领域，如数学，检测效果也不理想。