三九宝宝网宝宝百科宝宝知识

什么是单精度和双精度数据

01月03日 编辑 39baobao.com

[螺纹精度等级的定义]螺栓性能等级分3.6、及以上螺栓材质为低碳合金钢或中碳钢并经热处理(淬火、回火),通称为高强度螺栓,其余通称为普通螺栓。螺栓性能等级标号有两部分数字组成,分别表示螺栓材料的...+阅读

此文系网友提供,本人转载以解提问者心中之惑。 单精度和双精度数值类型最早出现在C语言中(比较通用的语言里面),在C语言中单精度类型称为浮点类型(Float),顾名思义是通过浮动小数点来实现数据的存储。这两个数据类型最早是为了科学计算而产生的,他能够给科学计算提供足够高的精度来存储对于精度要求比较高的数值。但是与此同时,他也完全符合科学计算中对于数值的观念: 当我们比较两个棍子的长度的时候,一种方法是并排放着比较一下,一种方法是分别量出长度。

但是事实上世界上并不存在两根完全一样长的棍子,我们测量的长度精度受到人类目测能力和测量工具精度的限制。从这个意义上来说,判断两根棍子是否一样长丝毫没有意义,因为结果一定是False,但是我们可以比较他们两个哪个更长或者更短。这个例子很好地概括了单精度/双精度数值类型的设计初衷和存在意义。 基于上述认识,单精度/双精度数值类型从一开始设计的时候,就不是一个准确的数值类型,他只保证在他这个数值类型的精度之内是准确的,精度之外则不保证,比方说,一个数值5.1,很可能存储在单精度/双精度数值中的实际值是5.100000000001或者5.09999999999999。

导致这个现象的原因我们可以通过两种方式来解释: 简单的解释方法: 你可以尝试在任何一个控件的属性面板中,设定他的宽度为:3.2CM,当你输入完毕后,你会发现值自动变成了3.199cm,无论你怎么改,你都无法输入3.200CM,因为实际上在电脑中存储的并不是CM为单位的数值,而是“缇”为单位的数值,而“缇”和CM之间的比值,是个很难被除尽的数,因此你输入完毕后,电脑自动转换成了最接近的“缇”值,然后再转换成厘米显示到属性面板上,这一乘一除,两次四舍五入,误差就出来了。

单精度/双精度也是类似的原理,其实在二进制存储的时候,单精度/双精度都采用了类似相近分数的方法,而这样的存储是不可能做到准确的。 深入的解释方法: 让我们来看看我们存储到数字介质中的单精度/双精度值到底是怎么样的,我们使用如下代码对单精度类型进行一个解剖: Public Declare Sub CopyMemory Lib "kernel32" Alias "RtlMoveMemory" (Destination As Any, Source As Any, ByVal Length As Long) Public Sub floatTest() Dim dblVar As Single dblVar = 5.731 / 8 dblOutput dblVar dblVar = dblVar * 2 dblOutput dblVar dblVar = dblVar * 2 dblOutput dblVar dblVar = dblVar * 2 dblOutput dblVar dblVar = dblVar * 2 dblOutput dblVar dblVar = dblVar * 2 dblOutput dblVar End Sub Public Sub dblOutput(ByVal dblVar As Single) Dim bytVar(3) As Byte Dim i As Integer, j As Integer Dim strVar As String CopyMemory ByVal VarPtr(bytVar(0)), ByVal VarPtr(dblVar), 4 strVar = dblVar & ": " For i = 3 To 0 Step -1 For j = 7 To 0 Step -1 strVar = strVar & (bytVar(i) And 2 ^ j) / 2 ^ j Next j strVar = strVar & " " Next i Debug.Print strVar End Sub 运行后我们得到输出结果(输出格式为高位左,低位右): .716375: 00111111 00110111 01100100 01011010 1.43275: 00111111 10110111 01100100 01011010 2.8655: 01000000 00110111 01100100 01011010 5.731: 01000000 10110111 01100100 01011010 11.462: 01000001 00110111 01100100 01011010 22.924: 01000001 10110111 01100100 01011010 这里,我们把单精度类型转化成了二进制数据输出,这里我们看到,虽然这六个数字完全不同,但是他们的二进制存储惊人地相似,我们看到红色标记部分,每次都是加1,事实上,单精度数据类型使用从高位开始第1位作为正负标记位(绿色),第2位到第9位,是一个跨字节的有符号字节类型数据,这个数值决定了小数点移动的方向和位数(红色),第10位到32位保存一个整数(蓝色)在存储过程中,电脑首先把输入的值不断移位(乘除2)直到这个数的整数部分占用了全部24位的整数位,然后把移动的位数写入浮点部分(红色),而移位后的结果写入整数部分(蓝色和绿色),小数部分则舍弃。

求值的时候则是反向过程,先根据正负位和整数位求值,然后根据红色部分的整数来进行移位(乘除2的次方),最终才是我们得到的单精度数值。双精度数值也是同样原理,只是位数更多而已。 通过解剖单精度数值的二进制存储格式,我们可以清楚看到,实际上单精度/双精度的存储,都要通过乘法和除法,其中必有舍入,如果恰好你的数值在除法中被舍入了,那么你赋的初值就很可能与你最终存储的值不完全相同,其中的微小差异,并不与单精度/双精度的设计目标相违背。

当我们在数据库中或者VBA代码中使用一个单精度/双精度数值的时候,也许你从界面上看不到区别,但是在实际的存储中,这个差别却真真切切地就在那里,当你对其进行相等比较的时候,系统只是简单地作二进制的比较,界面上无法体现的微小差异,在二进制比较面前却无处遁形,于是,你的等于比较返回了一个意料之外的False。

以下为关联文档:

紧固件螺纹的精度等级螺纹精度等级1、 公制(DIN、ISO、GB)分为6H、6G等级。通常状况下是6H级。公制日标(JIS)分为Ⅰ级、Ⅱ级、Ⅲ级等三种。通常状况是Ⅱ级。2、英制为1B、2B、3B通常状况下是2B等级。...

关于螺纹精度的问题和如何选购螺纹规关于LZ的问题,个人认为: 1,一般螺纹在没有具体的精度要求时,可以不作检测,如果非要检测,可以采用普通精度等级H2检测。 2,螺纹量规一般都是对应丝锥的精度等级,分H1,H2,H3,H4四种,精...

精度的调配怎么计算怎么计算比例譬如我有两种酒精度含量的果汁,一种是11度的,一种是12.5度的,我现在需要生产一款12度的果汁饮料(容量750ml,数量2205瓶),两种酒精度含量的果汁调配成12度的果汁, 以下计算忽略体积变...

国家计量对电子汽车衡的精度有什么要求当然有标准,国家标准主要是对秤的精确度,三级秤,也就是精确度为1/3000 。 国际计量组织(OIML)规定,秤的精度是由检定分度值(e)决定的。我国JJG555-1996的非自动衡器通用检定规程是参...

c语言中的双精度浮点型是什么意思C语言中,双精度(double)型占8 个字节(64位)内存空间,其数值范围为1.7E-308~1.7E+308,可提供16位有效数字。 浮点型说白了就是科学记数法双精度,即 double 。 C 标准要求 float 类型...

C语言中为什么要进行什么双精度浮点之类的定义?有什么用差不多这个意思:你用int类型能进行圆周率的计算么,你money计算可能都是整数么?你任何东西的长度可能都是整好整数么?满足更苛刻的需求,你就得定义更适合的数据类型。 浮点数的精...

c语言中常量变量浮点单精度精度是什么意思实型常量又称实数或浮点数。在C语言中可以用单精度型和双精度型两种形式表示实型常量,分别用类型名float和double进行定义。 实型常量在一般的微型集中占用4个字节,一般形式或...

什么是单精度?什么是双精度?什么是浮点?什么是整型这是一种数据类型,用来表示实数。单精度浮点数在内存当中占4个字节,双精度浮点数在内存中占8个字节,而浮点数则是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示...

C语言中数据的精度是什么意思c语言中: float浮点数7位有效数字。 double双精度数16位有效数字。 单精度数的尾数用23位存储,加上默认的小数 点前的1位1,2^(23+1) = 16777216。因为 10^7 < 16777216 < 10^8...

推荐阅读
图文推荐