如何计算浮点数和双精度数的小数位数?

问题描述 投票:0回答:1

我对编程非常陌生,在大学里,我们了解了不同类型的数字(整数,短整数,浮点数,双精度数)。浮点数和双精度数是浮点数。通常,它们由正负号,尾数和指数组成。每个部分占用一定数量的位。浮点数最多可以显示7位小数,而最多可以显示16位。公式是:

23·log10(2)= 23·(log(2)/ log(10))≈23·0.3≈7(浮点数的小数位)

52·0.3≈16(双精度小数位)

我知道23和52是尾数的位。但是对数从哪里来?这如何计算小数位数?

floating-point double
1个回答
0
投票

23位可以表示2 23值。 N个十进制数字可以表示10 N值。

可以代表与23位相同的一组值的十进制数字的数量减少了对方程中N的求解:

2 23 = 10 N

log(2 23)= log(10 N

23 * log(2)= N * log(10)

N = 23 *(log(2)/ log(10))

当然,您不能使用小数位或十进制数字,因此必须根据结果的使用方式将其四舍五入。

© www.soinside.com 2019 - 2024. All rights reserved.