主要观点:作者在工作中大量使用 AI,总结了与 AI 相关的多方面经验和教训,包括 AI 与计算机的区别、上下文窗口、学习方式、内存管理、工作方式类似无限实习生、代码审查、 emergent 行为、自我理解、非确定性以及快速变化等。
关键信息:
- AI 不是计算机但可使用计算机,更好的做法是让 AI 写脚本而不是直接处理大量文本。
- 上下文窗口大小在模型创建时设定,不能随意扩大,且窗口内信息管理存在问题。
- AI 模型创建后基本固定,新信息一般不改变模型,记忆需外部存储辅助。
- 把 AI 视为无限实习生,需明确任务、管理其工作,避免误解。
- 审查 AI 代码需注意其特殊之处,AI 写小函数较好但审查时要小心。
- AI 的有趣行为大多是 emergent 的,难以直接控制和理解。
- AI 不理解自身,改进提示效果有限。
- AI 具有非确定性,需要谨慎使用以保证可靠行为。
- AI 发展迅速,工具不断变化,未来可期但目前仍有挑战。
重要细节:
- 以Cline为例说明 AI 需被告知使用工具。
- 提及prompt injection attacks等上下文窗口相关问题。
- 以Leonard from Memento说明 AI 的记忆方式。
- 介绍不同类型的内存系统如more persistent “session,”、advanced database、bunch of markdown files等。
- 提到 Agentic systems 和 One-bit models 等未来发展趋势。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。