主要观点：

• 许多开发者的首个生成式 AI 项目，用 GPT-4 等得到惊艳结果后，扩容时 AWS 账单剧增，AI 承诺遇基础设施成本现实。
• 小语言模型（SLMs）能以 10%成本实现 90%大模型价值，数学上有优势，实施情况更好。
• 大模型成本高（单个推理成本约是 SLM 的 100 倍，基础设施要求高，训练周期长，有延迟问题），SLMs 可用于特定用例更准确高效，如金融合规等。
• 云基大语言模型存在数据安全问题（API 调用将数据发送至他人服务器），SLMs 可在本地或自有云环境运行，数据可控，如医疗保健行业。
• SLM 方法易获取，开发者可在数周内让定制模型上线，先解决小而明确问题，逐步扩展。
• 未来 AI 不是追求最大模型，而是为特定需求构建合适模型，新一代 AI 应用应快速、专注且盈利。

关键信息：

• 开发者首个 AI 项目扩容成本高，SLMs 成本低。
• 大模型和 SLMs 在成本、训练、延迟等方面差异。
• SLMs 可用于特定业务场景更精准。
• 云基大模型的安全隐患及 SLMs 的安全优势。
• 开始使用 SLMs 的步骤。
• 未来 AI 应按需构建合适模型。

重要细节：

• 某 startup 用 OpenAI API 每月花费 3 万，换 SLM 后降至 2 千且提高响应相关性。
• 金融科技公司用 SLM 构建合规检查系统更精准。
• 医疗保健 startup 因 HIPAA 要求用 SLM 构建 AI 功能。
• 用框架可快速为用例微调现有小模型，先解决小问题再扩展。