之前发现,在不同设备上,推理生成的向量会不一样
比如在同一台电脑是,使用 CPU 生成的向量和 GPU 生成的向量
换一台电脑,这台电脑的 CPU 生成的向量和另一台电脑 CPU 生成的向量也不一样
现在我还发现,一样的电脑,一样的 CPU,但是 batch_size 不一样,生成的向量也可以不一样
这没有关系,因为生成的向量区别都到小数点后五六位了,所以,只要大致相同就好了
之前发现,在不同设备上,推理生成的向量会不一样
比如在同一台电脑是,使用 CPU 生成的向量和 GPU 生成的向量
换一台电脑,这台电脑的 CPU 生成的向量和另一台电脑 CPU 生成的向量也不一样
现在我还发现,一样的电脑,一样的 CPU,但是 batch_size 不一样,生成的向量也可以不一样
这没有关系,因为生成的向量区别都到小数点后五六位了,所以,只要大致相同就好了
universe_king阅读 73
鸣飞赞 8阅读 12.5k评论 1
Swift社区赞 5阅读 409
Swift社区赞 3阅读 1.1k
超神经HyperAI赞 4阅读 4.6k
SegmentFault思否赞 3阅读 13.1k
techlead_kris赞 2阅读 1.6k
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。