javaint接收float_java int转float精度缺失原因?

news/2024/5/20 12:58:45

long的范围大于double

long与float的丢失原理同下:

1)小数转换成二进制:

整数和小数分别转换。

整数除以2,商继续除以2,得到0为止,将余数逆序排列。

22 / 2 11 余0

11/2 5 余 1

5 /2 2 余 1

2 /2 1 余 0

1 /2 0 余 1

所以22的二进制是10110

小数乘以2,取整,小数部分继续乘以2,取整,得到小数部分0为止,将整数顺序排列。

0.8125x2=1.625 取整1,小数部分是0.625

0.625x2=1.25 取整1,小数部分是0.25

0.25x2=0.5 取整0,小数部分是0.5

0.5x2=1.0 取整1,小数部分是0,结束

所以0.8125的二进制是0.1101

十进制22.8125等于二进制10110.1101

2)float的存储结构是这样的:

(1符号位)(8指数)(23尾数)

int的存储结构如下:

(1符号位)(31)

所以float的转换过程是怎么样的呢?

举例:

17.625在内存中的存储为:

首先要把17.625换算成二进制:10001.101

---------------------------------------

整数部分:除以2,直到商为0,余数反转。(即:模2取余法)

17 / 2 = 8--- 1

8 / 2 = 4 --- 0

4 / 2 = 2 --- 0

2 / 2 = 1 --- 0

1 / 2 = 0--- 1

小数部分:乘以2,直到乘位为0,进位顺序取。(即:乘2取整法)

按如下算法进行:

1)首先给小数部分乘2,得到的数,如果小数点前为1;则计1,为0,则计0。

2)再对剩下的小数部分乘2,再计出1或0。

3)重复以上步骤,直至达到需要的精度。

0.625 x 2 = 1.3 ---计为1

0.3 x 2 = 0.6 --- 计为0

0.6 x 2 = 1.2 --- 计为1

0.2 x 2 = 0.4 --- 计为0

......(算到需要的精度为止)

再例如:

0.5 x 2 = 1.0 --- 计为1

0 x 2 = 0   --- 结束

所以:0.5(D) = 0.1(B)

十 二

---------------------------------------

再将10001.101右移,直到小数点前只剩1位:

1.0001101 * 2^4 因为右移动了四位,

---------------------------------------

这个时候,我们的底数和指数就出来了。

底数:因为小数点前必为1,所以IEEE规定只记录小数点后的就好。所以,此处的底数为:0001101,

指数:实际为4,必须加上127(转出的时候,减去127),所以为131。也就是10000011,

符号部分是正数,所以是0。

综上所述,17.625在内存中的存储格式是:

01000001 10001101 00000000 00000000

3)反过来(解释下这张图,网上很多人都说不太清楚)

0.15626*2=0.3125 。。。。0

0.3125*2=0.625.。。。。0

0.625*2=1.25.。。。。。1

0.25*2=0.5.。。。。0

0.5*2=1.。。。1

0.15625=(0.00101)2=》1.01*2^(-3)

127-3=124=》01111100

必须加上127(转出的时候,减去127),明白了吧!

(0100 0000 1011 0000 0000 0000 0000 0000)2 = float(5.5)

不明白。简易版本:

int与float,都是32位,但是内存结构既存储结构是不一样的,float只能有24位来确定精度,而int是32位。其他类型也如此进行理解即可。

两种“精度丢失”

一个是有效数字丢失,int转float有可能丢失末尾的几位有效数字,这个是允许的,既然用户写了这个代码,说明他接受这种小范围误差

另一个是目标类型可能完全无法表示数据,比如float存放一个1e30,转为int是无法表示的,因为int最多21亿多,这个就丢得没影了,所以会告诉你有可能出问题

作者:冒泡

来源:知乎

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.pgtn.cn/news/29379.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

C++中的explicit关键字介绍

C中的关键字explicit主要是用来修饰类的构造函数,被修饰的构造函数的类,不能发生相应的隐式类型转换,只能以显示的方式进行类型转换。类构造函数默认情况下声明为隐式的即implicit。隐式转换即是可以由单个实参来调用的构造函数定义了一个从形…

【Ubuntu】VirtualBox+ubuntu中显示摄像头

1、下载插件 https://www.virtualbox.org/wiki/Downloads 2、修改下载的插件的后缀 将后缀名改为vbox-extpack 如下载的插件为Oracle_VM_VirtualBox_Extension_Pack-5.2.14.txt,改为Oracle_VM_VirtualBox_Extension_Pack-5.2.14.vbox-extpack 3、安装插件 点击virtualBo…

delphi 判断鼠标 左右_外设评测HyperX Pulsefire Haste游戏鼠标分享

HyperX家的外设产品我使用较多的是游戏耳机和键盘,鼠标给我的印象还停留在两年前的首款逆火鼠标上,倒不是说HyperX的鼠标不好,主要是我不喜欢太大、太重,以及扁平外型鼠标,以至于HyperX近年发布的几款鼠标都没能结缘。…

tomcat启动后 项目运行缓慢,要几十到几百秒不等 怎么样./startup.sh 运行加快

修改 linux系统中 /usr/local/jdk1.8.0_11/jre/lib/security/java.security 借力 好文章。我们新的Linux系统,部署了多个 Tomca,同时重启后t, 每次都阻塞差不多260秒左右。修改之后总的启动时间下降到6-8秒左右。另外,不确定为什么&#xff0…

mysql 5.7 编译_Mysql5.7版本编译安装及配置

配置yum安装方式1、配置本地yum源1 vim /etc/yum.repos.d/rhel-source.repo2 [rhel-source]3 nameRed Hat Enterprise Linux $releasever - $basearch -Source4 baseurlfile:///mnt5 enabled16 gpgcheck02、清除yum缓存yum clean all3、更新yum源yum update allyum安装 …

C++中istream的使用

在项目中会经常用到读取一些配置数据,这些数据根据实际需要有可能会调整,如果将这些数据直接嵌入进代码中会非常不便,需要经常调整代码。将这些数据写入配置文件中然后在读入,如果需要调整,只需修改配置文件&#xff0…

C++中操作符重载的使用

当运算符作用于类类型的运算对象时,可以通过运算符重载重新定义该运算符的含义。重载的运算符是具有特殊名字的函数:它们的名字由关键字operator和其后要定义的运算符共同组成。和其它函数一样,重载的运算符也包含返回类型、参数列表以及函数体。重载运算…

按下回车键指向下一个位置的一个函数

functiontofocus(itemname) // 按回车置下一个位置 2{ 3vara 4aeval( " document.vouch. "itemname) 5a.focus() 6} 7 在控件中使用onkeypress" javascrip:if(window.event.keyCode13){tofocus(nextformname)}提取下一个控件名