生成式 AI 的崛起让大模型成为数字时代的“水电煤”,但高昂的调用成本却让中小企业和开发者望而却步。当小企业还在为“100万 tokens 够不够用”纠结时,个人开发者已深陷“免费试用账号”调用额度过多的泥潭。
今天,我们来看一下如何通过 APIPark 将这些免费的额度统一接入管理起来,并实现跨平台额度自动调用,即使面对分散的羊毛,也能让你一把抓出体系化价值!
APIKey 资源池
APIPark 的 APIKey 资源池功能是一个集中管理和调配 APIKey 的功能,为 AI 服务的稳定运行提供有力支持。在资源池中,您可以查看和管理各个供应商的 APIKey,包括其状态(如正常、超额、过期等)和调用优先级。
当某个 APIKey 出现超额或过期等问题时,系统自动按优先级启用其他 APIKey,确保 AI 服务的持续可用。还可以使用 AI APIKey 资源池对 AI 调用资源额度进行统一再分配。
场景描述
一个 AI 供应商多个账号集成调用:比如你们公司在某平台上注册了多个账号,获得多次 AI Token 的赠送,需要把这些 APIKey 全部集中调用。
多个 AI 供应商同一 AI 大模型集成调用:比如你在 A 平台注册账号获赠 Deepseek 100万 Tokens ,在 B 平台注册账号获得 50万 Tokens 赠送额度;需要把所有平台上关于 Deepseek 的赠送额度都集中调用。
多个 AI 供应商不同 AI 大模型集成调用:比如你在 A 平台注册获赠 Deepseek 调用额度,在 B 平台注册获增 Doubao 调用额度,需要把这些不同的大模型集中调用。
以上三种场景均可用 APIPark 的功能解决。
操作步骤
〇 申请免费 Token
注册并开通各大云服务商/ AI 服务商账号,完成企业认证等必要步骤,领取 Token 额度。
📌 我们整理了一份国内外目前提供新注册用户免费额度的名单!赶紧收藏和转发给朋友吧~
〇 部署 APIPark
只需要一行命令5分钟即可快速部署 APIPark !具体参照 APIPark 官方部署流程文档。
📌点击跳转: Github 仓 | 官方文档
〇 接入 AI 供应商
打开 APIPark 界面前往「系统设置」 - 「AI 模型」,点击右侧「添加供应商」;您需要接入多少个 AI 供应商则需要在 APIPark 上创建多少个对应的 AI 供应商。
可以在模型供应商列表处添加系统内置的模型,点击添加该供应商的「默认模型」,选择要使用的模型,和填入默认 APIKey 保存即可。
〇 配置 APIKey 资源池
在 「系统设置」 - 「API Key 负载」界面可见你创建的所有 AI 供应商。
下方栏处则是刚才创建 AI 供应商时默认的 APIKey, 如需给一个 AI 供应商创建多个 APIKey 点击右侧「添加 APIKey」配置新增即可。
〇 创建 AI 服务
在「工作空间」 - 「服务」界面新建 AI 服务,配置 AI 供应商和模型等基本信息保存后,可在界面看到您创建完成的「AI 服务」。
打开该「AI 服务」选择左侧「发布」并配置完成「新建版本」的基本信息即可发布。
您可以在「API 门户」处可见成功上架的 API, 即可调用使用。系统会依据您在「API Key 负载」里的 APIKey 顺序来依次调用。
该实践应用主要解决 "同一个 AI 供应商多个账号集成调用" 的场景。接下来讲讲如何解决 "多个 AI 供应商同一 AI 大模型集成调用" 以及 "多个 AI 供应商不同 AI 大模型集成调用" 的场景。
模型灾备
前面的接入的步骤与上面一样,需要先接入 AI 供应商、创建和发布 AI 服务;然后接下来的步骤要用到 APIPark 的「模型灾备」功能。在「系统设置」-「模型灾备」界面添加新的模型,配置完成后即可在列表处拖拉调整模型调用顺序。
该功能是系统级的 AI 模型调用顺序。APIPark 会自动识别模型灾备内列表上的大模型健康情况,待第一个大模型消耗完(或模型故障),则会依次自动切换到序列内的模型。
APIPark「模型灾备」实现了多个 AI 供应商同一种 AI 模型 以及 多个 AI 供应商不同 AI 模型的集成调用场景。以上为 APIPark 通过灵活的配置实现 AI 服务商的快速集成管理的应用场景;薅羊毛不是目的,保障企业的 AI 业务持续在线,让 AI 更贴近业务场景才是我们的产品宗旨。
如果您也对 APIPark 未来的功能感兴趣,并有意向参与我们项目的开源共建,请登录 APIPark Github 仓 给开源团队提出您宝贵的建议!
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。