之前发现,在不同设备上,推理生成的向量会不一样
比如在同一台电脑是,使用 CPU 生成的向量和 GPU 生成的向量
换一台电脑,这台电脑的 CPU 生成的向量和另一台电脑 CPU 生成的向量也不一样
现在我还发现,一样的电脑,一样的 CPU,但是 batch_size 不一样,生成的向量也可以不一样
这没有关系,因为生成的向量区别都到小数点后五六位了,所以,只要大致相同就好了
之前发现,在不同设备上,推理生成的向量会不一样
比如在同一台电脑是,使用 CPU 生成的向量和 GPU 生成的向量
换一台电脑,这台电脑的 CPU 生成的向量和另一台电脑 CPU 生成的向量也不一样
现在我还发现,一样的电脑,一样的 CPU,但是 batch_size 不一样,生成的向量也可以不一样
这没有关系,因为生成的向量区别都到小数点后五六位了,所以,只要大致相同就好了
universe_king
北京宏哥阅读 226.2k
卡颂赞 3阅读 3.4k评论 2
潘杰赞 4阅读 966
京东云开发者赞 1阅读 5.5k
DBLens赞 5阅读 2.5k
DBLens赞 5阅读 1.1k
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。