之前发现,在不同设备上,推理生成的向量会不一样
比如在同一台电脑是,使用 CPU 生成的向量和 GPU 生成的向量
换一台电脑,这台电脑的 CPU 生成的向量和另一台电脑 CPU 生成的向量也不一样
现在我还发现,一样的电脑,一样的 CPU,但是 batch_size 不一样,生成的向量也可以不一样
这没有关系,因为生成的向量区别都到小数点后五六位了,所以,只要大致相同就好了
之前发现,在不同设备上,推理生成的向量会不一样
比如在同一台电脑是,使用 CPU 生成的向量和 GPU 生成的向量
换一台电脑,这台电脑的 CPU 生成的向量和另一台电脑 CPU 生成的向量也不一样
现在我还发现,一样的电脑,一样的 CPU,但是 batch_size 不一样,生成的向量也可以不一样
这没有关系,因为生成的向量区别都到小数点后五六位了,所以,只要大致相同就好了
universe_king阅读 385
陈明勇赞 6阅读 2k
拓端tecdat阅读 33.3k
程序员海军赞 5阅读 718
思否编辑部赞 2阅读 5.6k
Baihai_IDP赞 2阅读 648
北京宏哥阅读 6.2k
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。