头图

图片

开年我们部署了 DS 32B 蒸馏版并开放远程测试,就有朋友提到企业私有化部署的RAG场景,隔壁同事认为知识库、RAG等这些方向目前非常容易实现,但真正要变成企业AI工具还是一件非常细致的工作,有许多的产品或场景都是大厂在吆喝用户在观望。

技术部同事觉得我们能力尚浅,但部署一个开源RAG框架还是很容易实现,基于开源工具,在不做任何优化的前提下,目前基于DeepSeek的RAG体验到底如何?说着又搭了一个环境,大家可以扫个码找小编要链接。

部署环境

开源知识库框架:RAGFlow(感谢伟大的开源社区)
部署模型:DeepSeek-R1-32B FP16
硬件:4卡 RTX 5000 Ada 桌面工作站

来扫个码吧

1.点击“阅读原文”或扫描下方二维码即刻申请测试:

图片

2.要么加个群大家一起讨论讨论?

图片
赞奇 DeepSeek 交流群

实操视频

https://www.bilibili.com/video/BV1XvP3epEf1/?aid=114067704387...

赞奇一体机方案(大厂都在卖一体机,老板说我们也得有)

图片
(从桌面工作站到私有化服务器,从32B到671B,只有想不到没有办不到,请参考各大厂一体机方案)

更多赞奇一体机产品信息,欢迎私信后台小助手。


老IT人
1 声望0 粉丝

IT从业20年,硬件避坑达人。