博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
浮点数无法准确存放,在进行等 值判断的时候如何解决?
阅读量:3968 次
发布时间:2019-05-24

本文共 476 字,大约阅读时间需要 1 分钟。

举例说明:

public class T1 {
public static void main(String[] args) {
double x1 = 0.1; x1=x1+x1+x1+x1+x1+x1+x1+x1+x1+x1; System.out.println(x1);
}
}
在这里输出结果并不是1而是 0.99999999因为浮点数无法精确存放,所以会有一定的精度损失!!!!
那么如何解决此问题:
将两个值进行相减并求绝对值,如果绝对值小于某个值,则认为相等
解决上述问题:
public class T1 {
public static void main(String[] args) {
double x1 = 0.1; x1=x1+x1+x1+x1+x1+x1+x1+x1+x1+x1;
if(1-x1<1e-6) {
System.out.println(“计算结果为:1”);
//在这里对于进行判断的1e-6是根据具体情况进行取得的值
//并不是固定的
}
else
System.out.println(x1);
}
}

转载地址:http://jgcki.baihongyu.com/

你可能感兴趣的文章
USB驱动之描述符
查看>>
USB系统设备模型建立流程
查看>>
DMA原理
查看>>
USB系统设备模型建立流程
查看>>
杂项设备实现原理
查看>>
DMA原理
查看>>
stat.h头文件,轻松获取文件属性(2…
查看>>
杂项设备实现原理
查看>>
stat.h头文件,轻松获取文件属性(2…
查看>>
stat.h头文件,轻松获取文件属性
查看>>
stat.h头文件,轻松获取文件属性
查看>>
fcntl.h和unistd.h
查看>>
fcntl.h和unistd.h
查看>>
Printk在终端显示
查看>>
Printk在终端显示
查看>>
嵌入式Linux之我行——S3C2440上触摸…
查看>>
嵌入式Linux之我行——S3C2440上触摸…
查看>>
Linux环境进程间通信(二):&nbsp;信号…
查看>>
Linux环境进程间通信(二):&nbsp;信号…
查看>>
Linux环境进程间通信(二):&nbsp;信号…
查看>>