ChatGPT 正在下滑

主要观点:作者使用gpt-4ogpt-4o-mini模型分析商业反馈并分类,起初模型表现良好,测试多次未失败,但 2024 年 11 月 13 日测试失败,11 月 15 日该功能在生产环境中表现极差,作者意识到是模型在 11 月 13 日发生了变化,之后决定禁用该功能,开始测试其他提供商的模型,认为应开始关于自我托管和本地 LLM 的讨论,还提到了一些相关项目如 Langchaingo、Go 博客、Ollama 等,11 月 18 日重新运行原始测试又通过了,觉得 OpenAI 随意让 API 用户体验起伏。
关键信息:2024 年 11 月 13 日 ChatGPT 模型出现变化导致功能失败,之前测试多次成功,之后决定测试其他模型,11 月 18 日测试又通过。
重要细节:作者最初用简单提示让模型工作,代码每两周运行一次,测试用go test -count 1000多次未失败,生产环境中模型处理更多数据时表现更差,作者原本以为模型在前端会波动而 API 更稳定等。

阅读 10
0 条评论