ChatGPT 穿越山海之后,再来聊聊 LLM 应用方向

主要观点:ChatGPT 去年 11 月以来野蛮增长,6 月见顶,半年来有大量 AI 想法、试验产品及少量爆款,现疑惑为何无其他爆款及后续方向。本文将通过多方面信息思考和一线经验回答这些问题。
关键信息

  • ChatGPT 网站流量 5 月增长停止,6 月下降,美国区排名从 48 名降至 64 名,iOS App 下载量 6 月也下降且跌出美国应用总榜单前十。
  • ChatGPT 产品价值主要靠大语言模型技术,界面简单,人均日使用时长 8 分钟不如 Twitter,四周留存 35%以上且下降缓慢,OpenAI 除 ChatGPT 不开发新产品。
  • GPT4 是一代技术最高标准,存在幻觉(某些训练语料不足时胡编乱造)、信息滞后(训练数据截止 2021 年 9 月)、成本高(难申请且价格居高不下)、同质化(免费使其他模型受影响)等技术瓶颈,使用 MoE 架构且多模型堆叠可能说明遇到数据、算力等瓶颈。
  • 产品要满足用户需求,可从幻觉、信息滞后、成本、同质化等 GPT4 瓶颈上突破提供差异化价值,如私有化数据、补充信息、降低成本、打造垂类模型等。
  • 模型应服务应用,大模型应朝垂直应用方向演进,如满足人类情感等需求,垂直大模型应用空间可能更大,但所需数据更难获得。
  • Prompt 是 LLM 的信息通道,包含 Context 场景、Rules 规则、Examples 示例三要素,未包含则信息质量低,衍生出多种写 Prompt 的方案。
    重要细节
  • OpenAI 插件系统不算成功,仅限 Plus 用户使用,浏览模式外未找到 PMF。
  • 解决幻觉所需数据大量存在于私域,需全社会合作,公开爬取不可得。
  • 国内算力问题更严重,GPT4 价格居高不下导致很多产品回归 3.5。
  • 垂直大模型不是有多个垂直领域擅长的模型,而是某些大模型在某些垂直领域应用更好。
  • 写 Prompt 需学习技巧,大部分人懒惰不愿每次写,从而衍生多种方案。
阅读 52
0 条评论