0.00085显示为0.0008,精度丢失?

Nicole
  • 670

我在DolphinDB GUI中执行:

matrix(0.00085 0.000085 )

显示如下图所示,是精度丢失了吗?
image.png

回复
阅读 301
1 个回答
✓ 已被采纳

请打开菜单项File->Preferences,在弹出窗口中修改Default number of decimal place配置项,如下图所示:

image.png

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
你知道吗?

宣传栏