三九宝宝网宝宝百科宝宝知识

如何求出计算机中单精度浮点数的表数范围

02月15日 编辑 39baobao.com

[Excel如何给定的一个日期求出下月月初日期]给定的一个日期求出下月月初日期可以使用EOMONTH函数返回当月月末日期,再加上1天得到下月初的日期。软件工具:Excel 2013 1、比如D2为预设日期,E2为要返加下月月初日期。 2、在...+阅读

不用求了,网上有的:

单精度数的尾数用23位存储,加上默认的小数点前的1位1,2^(23+1) = 16777216。

因为 10^7 < 16777216 < 10^8,所以说单精度浮点数的有效位数是7位。

双精度的尾数用52位存储,2^(52+1) = 9007199254740992,

因为10^16 < 9007199254740992 < 10^17,所以双精度的有效位数是16位。

扩展资料:

“浮点数的精度取决于尾数部分。尾数部分的位数越多,能够表示的有效数字越多。”这句赞同,所以双精度的有效位数肯定比单精度的多。

一个数如果有效位数大于7位 如1.27893456076(12位),用float来表示就不能准确的存储了。

运行:

float a = 1.23456789076f;// --->a = 1.2345679

即用1.23456789076在计算机中存储成float的格式只能逼近到第七位,

能不能准确存储还取决于这个数字(十进制数)能不能用有限的二进制位数准确的表示。 float = 2.202 float = 2.25

如果小数部分转化为二进制时候得到一个无穷值,则会根据尾数部门的长度舍弃多余的部分,从而存储一个近似的浮点值,这就解释了 为什么在比较浮点数值时候 要做一个区间比较 而不是 等值比较。

溢出处理

浮点数的溢出是以其阶码溢出表现出来的。在加\减运算过程中要检查是否产生了溢出:若阶码正常,加(减)运算正常结束;若阶码溢出,则要进行相应处理。另外对尾数的溢出也需要处理。

阶码上溢 超过了阶码可能表示的最大值的正指数值,一般将其认为是+∞和-∞。

阶码下溢 超过了阶码可能表示的最小值的负指数值,一般将其认为是0。

尾数上溢 两个同符号尾数相加产生了最高位向上的进位,将尾数右移,阶码增1来重新对齐。

尾数下溢 在将尾数右移时,尾数的最低有效位从尾数域右端流出,要进行舍入处理。

参考资料:百科——浮点数

以下为关联文档:

动态图求出处这是哪部动漫是《少年同盟》《少年同盟》是日本漫画家堀田きいち以青春为题的漫画作品。2003年开始在月刊少年GANGAN刊载,2004年则转至GANGAN POWERED连载,再由2009年开始移至月刊GFantasy...

怎么运用excel中的函数求出总分平均分名次总分SUM ,平均分AVERAGE ,名次 RANK.EQ SUM 函数是一个数学和三角函数,可将值相加。你可以将单个值、单元格引用或是区域相加,或者将三者的组合相加。 例如: =SUM(A2:A10) =SUM(A...

matlab如何将一个文件中的数据导入并求出他们的相对误差首先编写以下script(问题比较简单就不用function了): s = load('shujv.txt'); %将文本文档中的数据加载(load)到向量s中 n = length(s); %得到向量长度n,即循环次数 sigma = zeros(1...

概率题求出数学期望后怎么求方差楼主你好 方差有两种求法 第一种:根据定义求 设方差=Var(X) 则Var(X)=(2-37/10)^2*(3/5)+(3-37/10)^2*(3/10)+(4-37/10)^2*(1/10) 第二种:用公式求 方差Var(X)=E(X^2)-[E(X)]^...

access里单精度型双精度型小数型该如何选择单精度和双精度属于浮点型数字类型;而小数是定点型数字类型。 单精度:保存从-3.402823E38 到-1.401298E-45 的负值,从 1.401298E-45 到 3.402823E38 的正值。可以有7位小数;占4...

什么是单精度和双精度单精度数是指计算机表达实数近似值的一种方式。VB中Single(单精度浮点型)变量存储为 IEEE 32 位(4 个字节)浮点数值的形式,它的范围在负数的时候是从 -3.402823E38 到 -1.401298E...

双精度小数和单精度小数啥区别????Single Precision The IEEE single precision floating point standard representation requires a 32 bit word, which may be represented as numbered from 0 to 31, lef...

C语言中单精度和双精度浮点型数据的数值范围是多少Type Minimum value Maximum value float 1.175494351 E – 38 3.402823466 E + 38 double 2.2250738585072014 E – 308 1.7976931348623158 E + 308 MSDN上都有 float 4字...

C语言中单精度数据的存储范围求高手指点啊单精度存储首先最高位是符号位。 然后有8位的指数位。代表 2^-127 ~ 2^128 (存储时 127代表 2^0 255代表2^128 0为 2^-127) 后面的23位是尾数即小数位。没有整数,在存储时会移...

推荐阅读
图文推荐