python调用c++ .so库返回double时为0

图片描述

如图,c++的LCS函数声明为double LCS(...
理论上不是应该返回0.6666667,但是返回的为0.0
这是因为什么??怎么解决??
望大佬指点一二

阅读 8.4k
2 个回答

调用c函数默认返回 c int 类型。 需要重新设置restype。
foo = lib.LCS
foo.restype = c_double
print(foo(参数))
望采纳~

怎么又是这种问题。因为你没有设置返回值类型为 ctypes.c_double。别懒,设置正确的参数和返回值类型,不然各种问题。如果你非要懒,可以考虑使用 cffi。

ctypes 默认返回类型是整型,存于通用寄存器。而 double 类型的返回值是存于 %xmm0 这种寄存器的。Python 默认去读 %eax 来取得它以为的整型返回值,谁知道你的结果在 %xmm0 里啊。(适用于 x86_64)

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题