- 易迪拓培训,专注于微波、射频、天线设计工程师的培养
labview的深入探索----双精度数精度问题
录入：edatop.com 点击：
日前帮朋友看一个程序，一个WHILE循环，退出条件是等于一个双精度数，结果程序未按照预想条件退出，由此想到了双精度数的精度问题。
计算机中的双精度数都存在精度损失的问题，因此一般不宜用相等进行判断。
可以看出，0.8+（0.42-0.5)!=0而下面（0.08+0.42）-0.5 =0
上面！=0但是+1后却等于1。
双精度浮点数的确不适合用相等来判断。
计算机中的双精度数都存在精度损失的问题，因此一般不宜用相等进行判断。
可以看出，0.8+（0.42-0.5)!=0而下面（0.08+0.42）-0.5 =0
上面！=0但是+1后却等于1。
双精度浮点数的确不适合用相等来判断。
上一篇：labview的深入探索----利用DDE实现进程间的数据交换之一
下一篇：labview的深入探索----利用DDE实现进程间的数据交换之二
