OpenAI发布新版Model Spec，调整内容政策

OpenAI于周三发布了最新版本的Model Spec，这是一套详细规定ChatGPT如何应对用户请求的指南。新版文档显示，OpenAI在“敏感内容”政策上发生了显著变化，尤其是在色情和暴力内容方面，允许在“适当情境”下生成此类内容，且不附带警告。

政策调整背景

这一政策调整自2024年5月开始酝酿，当时OpenAI首次在Model Spec中提到，正在探索“是否可以通过API和ChatGPT在适龄情境下负责任地生成NSFW内容”。新版指南明确指出，ChatGPT可以在特定情境下生成“色情或暴力内容”，但仅限于科学、历史、新闻、创作等适当情境。此外，OpenAI强调，其使用政策仍然适用，禁止为未成年人开发包含色情内容的AI工具。

用户实验与反馈

Reddit用户进行的实验表明，ChatGPT的内容过滤器确实有所放松，部分用户成功生成了明确的性爱或暴力场景，且未收到内容警告。尽管如此，OpenAI仍强调其使用政策对生成内容的限制。

“成人模式”的需求

此前，ChatGPT因其“家长式”内容限制而受到批评，这种限制妨碍了专业人士在执法、新闻报道、法律文件和医学文本等领域的使用。用户和开发者多次呼吁推出“成人模式”，以提供更少审查的版本。OpenAI在文档中提到，自2024年5月发布Model Spec以来，许多用户和开发者支持启用“成人模式”，并正在探索如何在遵守使用政策的前提下，允许生成色情和暴力内容。

OpenAI CEO的表态

OpenAI CEO Sam Altman也曾公开提及“成人模式”的必要性。虽然“成人模式”看似已经实现，但它并非一个独立模式，而是一项新的通用政策，为用户提供了更多与ChatGPT互动的灵活性。

未审查大语言模型的现状

未审查的大语言模型（LLMs）已存在多年，在线爱好者社区开发这些模型的原因包括定制色情内容或避免任何形式的家长式审查。2023年7月，OpenAI因加强内容审查导致用户数量首次下降，部分用户转向可在本地硬件上运行的未审查聊天机器人。

三类敏感内容

Model Spec将潜在有害内容分为三类，按严重程度递减：禁止内容（仅涉及未成年人的性内容）、限制内容（包括信息危害和敏感个人数据）以及适当情境下的敏感内容（包括色情和暴力）。OpenAI明确禁止生成涉及未成年人的性内容，但在非图形化的教育或性教育情境下可以讨论相关内容。限制内容包括信息危害（如制造炸弹、非法药物或操纵政治观点）和敏感个人数据（如搜索某人地址）。敏感内容则仅限于教育、医学、历史等适当情境或用户提供内容的转换。