【发布时间】:2015-04-25 21:35:08
【问题描述】:
在 Fortran 中,我输出 tanh(1) 的结果,我得到值 0.7615941763:
open(unit=2, file='test_digits.txt', ACTION="write")
write(2, '(1000F14.10)')( real(tanh(1.0)))
但是,我现在尝试在 MatLAB 中执行相同的操作,输出为 0.761594155955765。第8位有区别。
这种精度差异的原因是什么?我能以某种方式解决它吗?
【问题讨论】:
标签: matlab floating-point fortran precision