头图

达坦科技始终致力于打造高性能 Al+ Cloud 基础设施平台,积极推动AI应用的落地。达坦科技通过软硬件深度融合的方式,提供高性能存储和高性能网络。为 AI 应用提供弹性、便利、经济的基础设施服务,以此满足不同行业客户对 AI+Cloud 的需求。在本周的前沿技术分享中,我们邀请到了猴子无限创始人兼CEO尹伯昊,来为大家分享让大模型在场景中真正落地的产品形态、技术堆栈、交付服务

1、演讲题目

让大模型在场景中真正落地的产品形态、技术堆栈、交付服务

2、演讲时间

2024年3月17日上午10:30

3、演讲人

尹伯昊

猴子无限创始人兼CEO

4、内容简介

满足企业级的大模型需求,能够在当下创造很多业务机会。但是在企业中落地大模型挑战很多,包括选择合适的产品形态、建立完善的技术堆栈、建立完善的交付服务体系等。猴子无限在服务大量头部客户的过程中,沉淀了一些早期经验,可供参考。

5、内容简介

  1. 企业级大模型需求所需的产品形态:客户常见需求和行业常见方案(提示词编排、模型编排、线性流程编排、复杂流程编排)的优劣势
  2. 企业级大模型需求所需的技术堆栈:面向高可用「容灾、容错、容量」的架构重设计,面向大模型高内存消耗的架构重设计,实现这些目标所需要的中间件(vGPU、K8S、HPA、FS、OSS)和其他系统模块设计
  3. 企业级大模型需求所需的交付服务体系:客户对大模型落地实现不明确时,如何建立新的沟通框架,如何在商务、解决方案、交付过程中确保其完成落地

6、直播预约

欢迎您预约直播,或者登陆腾讯会议观看直播:

会议号:474-6575-9473

达坦科技始终致力于打造高性能Al+ Cloud 基础设施平台,积极推动AI应用的落地。达坦科技通过软硬件深度融合的方式,提供高性能存储和高性能网络。为 AI 应用提供弹性、便利、经济的基础设施服务,以此满足不同行业客户对 AI+Cloud 的需求。

公众号:达坦科技DatenLord

DatenLord官网

https://datenlord.github.io/zh-cn/

知乎账号:

https://www.zhihu.com/org/da-tan-ke-ji

B站

https://space.bilibili.com/2017027518

邮箱:info@datenlord.com

如果您有兴趣加入达坦科技Rust前沿技术交流群,请添加小助手微信:DatenLord_Tech


Datenlord
14 声望6 粉丝

DatenLord专注打造新一代云原生高性能存储平台,实现跨云、跨数据中心之间数据高速访问,从而极大提升存储系统的可扩展性,满足企业客户海量数据跨地域高速访问需求,在互联网、金融、电信、能源等不同行业均有广...