SegmentFault 临时封禁 ChatGPT

ChatGPT 是 OpenAI 推出的优化对话的语言模型，该模型可以根据上下文生成自然语言文本来模拟人类对话，实现回答问题、追问问题、指出问题中的错误等功能。简单来说，向 ChatGPT 输入清晰整洁的问题，大概率可以获得一份基本“符合条件”的答案。

随问随答的 ChatGPT 凭借着给提问者带来的“惊喜”和“新鲜感”，短时间内迅速火遍全网，「短短几天用户已突破 100 万大关」，很快 SegmentFault 社区也出现了一些「疑似」由 ChatGPT 生成的答案。这些内容 ChatGPT 遭到大量用户举报。

近期随着 ChatGPT 持续的升级迭代，经社区治理小组的讨论，如引用 AI 的内容，需要披露 AI 使用情况，并提供自己对 AI 内容的验证结果，否则，内容将无法正常显示发布。

为什么封禁 ChatGPT

SegmentFault 对各类技术都抱有开放的态度，对于 OpenAI 在模型训练上取得的优秀成果，我们也非常兴奋。或许未来，我们可以一同探索 AI 在社区中的创新应用，但问答尚未证明是应用对话模型的正确场景。

封禁 ChatGPT 的主要原因是因为其对社区信用制度产生冲击及造成不良影响。

SegmentFault 社区管理制度是基于用户的声望信用评级。用户可以通过在社区贡献内容来获得声望，声望越高意味着用户可信度越高，也意味其着判断内容正确与否的权限越高。当一个非技术用户通过转发 ChatGPT 的回答来提高自己的声望时，他就可能会获得至高的权限，并拥有评判一个技术内容好坏的权利。这会导致技术问答内容不可靠，并对整个社区的规则运作构成威胁和破坏。 这种情况严重违反了社区规则的公正性和完整性，并给社区带来更多的不良影响。

以「凝聚集体智慧，推动技术进步」为使命，我们鼓励大家发布经过验证的、有效的解决方案。在没有自己验证的前提下，转发一份机器生成的“看上去还不错的答案”，这不是一个平等的人和人对话，是对提问者，和社区成员的不尊重。

另外，ChatGPT 生成的答案错误率高且不易辨别。回答者不对 ChatGPT 的错误承担责任，而 SegmentFault 的志愿者却需要花费大量的精力来审核和评判这些机器的内容，给社区造成了沉重的负担，拉低了生产效率。

基于以上种种原因，思否社区临时封禁 ChatGPT 回答问题，以确保社区规则得到严格的遵守和执行。

我们认为，社区管理基于声望评级是维护社区秩序和促进社区成长的重要机制。我们鼓励用户通过积极的贡献和行为来提升自己的声望评级，进而获取更高的权限和地位。同时，我们也会持续优化社区管理制度，以确保社区的公正性和完整性，并促进社区的可持续发展。

接下来的措施

我们将在社区中，通过用户举报、系统识别等途径，针对性审核疑似 ChatGPT 生成的答案，提醒发布者注名来源的同时，提供自己对 AI 内容的验证结果。降低其带来的不良影响，提升 ChatGPT 答案的有效性。如提醒后仍不按照规则发布内容，将对内容和作者进行删除、封禁等处理。如有异议可自行申诉。

我们为了消除开发领域的知识不平等，建立了开放式协作的问答社区。十年时间，无数开发者、志愿者参与共建、维护。我们探寻以开放、对等、共享的理念，凝聚开发者智慧，共同推动技术进步。欢迎你加入并贡献自己的智慧，与 SegmentFault 共同建设社区。