达坦科技始终致力于打造高性能 Al+ Cloud 基础设施平台,积极推动AI应用的落地。达坦科技通过软硬件深度融合的方式,提供高性能存储和高性能网络。为 AI 应用提供弹性、便利、经济的基础设施服务,以此满足不同行业客户对 AI+Cloud 的需求。在本周的前沿技术分享中,我们邀请到了猴子无限创始人兼CEO尹伯昊,来为大家分享让大模型在场景中真正落地的产品形态、技术堆栈、交付服务。
1、演讲题目
让大模型在场景中真正落地的产品形态、技术堆栈、交付服务
2、演讲时间
2024年3月17日上午10:30
3、演讲人
尹伯昊
猴子无限创始人兼CEO
4、内容简介
满足企业级的大模型需求,能够在当下创造很多业务机会。但是在企业中落地大模型挑战很多,包括选择合适的产品形态、建立完善的技术堆栈、建立完善的交付服务体系等。猴子无限在服务大量头部客户的过程中,沉淀了一些早期经验,可供参考。
5、内容简介
- 企业级大模型需求所需的产品形态:客户常见需求和行业常见方案(提示词编排、模型编排、线性流程编排、复杂流程编排)的优劣势
- 企业级大模型需求所需的技术堆栈:面向高可用「容灾、容错、容量」的架构重设计,面向大模型高内存消耗的架构重设计,实现这些目标所需要的中间件(vGPU、K8S、HPA、FS、OSS)和其他系统模块设计
- 企业级大模型需求所需的交付服务体系:客户对大模型落地实现不明确时,如何建立新的沟通框架,如何在商务、解决方案、交付过程中确保其完成落地
6、直播预约
欢迎您预约直播,或者登陆腾讯会议观看直播:
会议号:474-6575-9473
达坦科技始终致力于打造高性能Al+ Cloud 基础设施平台,积极推动AI应用的落地。达坦科技通过软硬件深度融合的方式,提供高性能存储和高性能网络。为 AI 应用提供弹性、便利、经济的基础设施服务,以此满足不同行业客户对 AI+Cloud 的需求。
公众号:达坦科技DatenLord
DatenLord官网:
https://datenlord.github.io/zh-cn/
知乎账号:
https://www.zhihu.com/org/da-tan-ke-ji
B站:
https://space.bilibili.com/2017027518
如果您有兴趣加入达坦科技Rust前沿技术交流群,请添加小助手微信:DatenLord_Tech
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。