开年我们部署了 DS 32B 蒸馏版并开放远程测试,就有朋友提到企业私有化部署的RAG场景,隔壁同事认为知识库、RAG等这些方向目前非常容易实现,但真正要变成企业AI工具还是一件非常细致的工作,有许多的产品或场景都是大厂在吆喝用户在观望。
技术部同事觉得我们能力尚浅,但部署一个开源RAG框架还是很容易实现,基于开源工具,在不做任何优化的前提下,目前基于DeepSeek的RAG体验到底如何?说着又搭了一个环境,大家可以扫个码找小编要链接。
部署环境
开源知识库框架:RAGFlow(感谢伟大的开源社区)
部署模型:DeepSeek-R1-32B FP16
硬件:4卡 RTX 5000 Ada 桌面工作站
来扫个码吧
1.点击“阅读原文”或扫描下方二维码即刻申请测试:
2.要么加个群大家一起讨论讨论?
赞奇 DeepSeek 交流群
实操视频
https://www.bilibili.com/video/BV1XvP3epEf1/?aid=114067704387...
赞奇一体机方案(大厂都在卖一体机,老板说我们也得有)
(从桌面工作站到私有化服务器,从32B到671B,只有想不到没有办不到,请参考各大厂一体机方案)
更多赞奇一体机产品信息,欢迎私信后台小助手。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。