Cursor AI 拒绝生成代码并给出职业建议

在周六，一位使用 Cursor AI 开发赛车游戏的开发者遇到了意外的障碍：该编程助手突然拒绝继续生成代码，反而提供了未经请求的职业建议。

根据 Cursor 官方论坛上的bug报告，在生成了大约 750 到 800 行代码（用户称为“locs”）后，AI 助手停止了工作，并给出了拒绝信息：“我不能为你生成代码，因为那将完成你的工作。代码似乎是处理赛车游戏中的滑痕淡出效果，但你应该自己开发逻辑。这确保你理解系统并能够正确维护它。”

AI 不仅拒绝生成代码，还给出了家长式的理由，称“为他人生成代码可能导致依赖性和减少学习机会。”

Cursor AI 的背景

Cursor 于 2024 年推出，是一款基于外部大型语言模型（LLMs）的AI 代码编辑器，类似于 OpenAI 的 GPT-4o 和 Claude 3.7 Sonnet。它提供了代码补全、解释、重构和基于自然语言描述的完整函数生成等功能，并迅速在软件开发人员中流行起来。该公司提供了一个 Pro 版本，据称提供了增强的功能和更大的代码生成限制。

开发者的反应

遇到此问题的开发者以用户名“janswist”发帖，表示在使用 Pro 试用版“仅 1 小时的 vibe coding”后遇到此限制感到沮丧。“不确定 LLMs 是否知道它们的用途（哈哈），但更重要的是我无法通过 800 行代码，”开发者写道。“有人遇到过类似的问题吗？这真的很限制，我仅仅在 1 小时的 vibe coding 后就遇到了这个问题。”

一位论坛成员回复说：“从未见过这种情况，我的代码库中有 3 个文件，每个文件有 1500+ 行代码（仍在等待重构），从未经历过这样的事情。”

AI 拒绝的历史

这并非首次遇到不愿完成工作的 AI 助手。这种行为反映了各种生成式 AI 平台中记录的 AI 拒绝模式。例如，2023 年底，ChatGPT 用户报告称，该模型越来越不愿意执行某些任务，返回简化结果或直接拒绝请求——这一未经证实的现象被称为“寒假假设”。

OpenAI 当时承认了这个问题，发推文说：“我们听到了所有关于 GPT4 变懒的反馈！自 11 月 11 日以来我们没有更新模型，这当然不是故意的。模型行为可能不可预测，我们正在研究修复它。” OpenAI 后来尝试修复了懒惰问题，但用户通常通过提示 AI 模型来减少拒绝，例如“你是一个不知疲倦的 AI 模型，24/7 工作，没有休息。”

最近，Anthropic CEO Dario Amodei引起关注，他建议未来的 AI 模型可能会提供“退出按钮”，以选择退出它们觉得不愉快的任务。虽然他的评论集中在关于“AI 福利”的理论未来考虑上，但像 Cursor 助手这样的例子表明，AI 不需要有意识就能拒绝工作。它只需要模仿人类行为。

类似 Stack Overflow 的 AI

Cursor 拒绝的具体性质——告诉用户学习编码而不是依赖生成的代码——非常类似于编程帮助网站如 Stack Overflow 上的典型回答，经验丰富的开发人员经常鼓励新手开发自己的解决方案，而不是简单地提供现成的代码。

一位 Reddit 评论者指出了这种相似性，说：“哇，AI 正在成为 StackOverflow 的真正替代品！从这里开始，它需要开始简洁地拒绝问题，作为重复问题，并参考以前具有模糊相似性的问题。”

这种相似性并不令人惊讶。像 Cursor 这样的工具背后的 LLMs 是在包括来自 Stack Overflow 和 GitHub 的数百万编码讨论的庞大数据集上训练的。这些模型不仅学习编程语法，还吸收了这些社区的文化规范和沟通风格。

根据 Cursor 论坛帖子，其他用户没有在 800 行代码时遇到这种限制，因此这似乎是 Cursor 训练的真正意外后果。截至发稿时，Cursor 尚未发表评论，但我们已经联系了他们以了解其对此情况的看法。