ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准,特别是单精度binary32 aka浮点和双精度binary64又称双格式。

与matlab相比,获得三角函数的正确值

我试图用它的c ++代码测试simulink块,simulink块包含一些algebratic,三角函数和积分器。在我的测试程序中,使用随机数生成器......

回答 1 投票 1

顽固位不会被设置为1。

我有这个代码用于获取IEEE二进制数的尾数或值。 iFloat_t floatGetVal(iFloat_t x){iFloat_t尾数=(BITS == 16)? (x&0x03FF):...

回答 2 投票 0

0.0 / 0.0是一个定义明确的值吗?

由于0.0 / 0.0在数学上未定义,因此IEEE-754浮点标准合理地将NaN定义为其结果。现在,因为与无穷大不同,NaN不是一个明确定义的值,而是一组......

回答 2 投票 -1

为什么Java中的-Infinity + Infinity的平方根? [重复]

我尝试了两种不同的方法来在Java中找到平方根:Math.sqrt(Double.NEGATIVE_INFINITY); // NaN Math.pow(Double.NEGATIVE_INFINITY,0.5); //无限为什么不是第二种方式回归......

回答 2 投票 35

去漂浮比较[重复]

为了比较Go中的两个浮点数(float64)是否相等,我对IEEE 754的表面理解和浮点数的二进制表示使我认为这是一个很好的解决方案:func Equal(a,b ...

回答 2 投票 -1

带有效负载的双倍字面NaN

我正在使用带有效负载的NaN(因此尾数包含重要信息,但仍被视为NaN)。例如,可以使用十六进制的IEEE-754-1985表示一个这样的值...

回答 3 投票 2

在浮子上施加(某些情况下)周期性边界条件的有效方法?

通过简单地执行以下操作,可以非常有效地对整数施加一些周期性边界条件(PBC):myWrappedWithinPeriodicBoundary = myUIntValue&mask当边界是...

回答 2 投票 2

NAN传播和IEEE 754标准

我正在设计一个新的微处理器指令集(www.forwardcom.info),我想使用NAN传播来跟踪错误。但是,IEEE 754浮点存在许多奇怪的问题......

回答 4 投票 8

如何在不使用不安全代码的情况下将float转换为二进制?

有没有办法将浮点数(f32或f64)转换为可以按位访问的数据类型,如u32 / u64?也就是说,对应于:fn as_bits(i:f64) - > u64 {unsafe {...

回答 1 投票 2

如何将-1x10 ^ 200转换为IEEE 754双精度

如上所述,我想找到-1x10 ^ 200的IEEE 754表示。我知道我们可以得到标志为1,因为我们有一个负数。但是我不确定如何找到尾数/指数。 ...

回答 1 投票 -1

在javascript中,Bitwise OR是否在计算过程中使用ieee-754作为存储格式?

如果使用Bitwise OR ieee-754来计算Javascript中的结果,我无法理解结果。例如:2 | 1 => 3在ieee-754中,2存储为0 10000000000 0000 ... 0000,1存储为0 ...

回答 1 投票 0

Matlab中NaN的值似乎是错误的

我的MATLAB版本是:9.3.0.713579(R2017b)根据IEEE 754-2008,MATLAB中的NaN值不正确:>> format hex >> single(+ NaN)ans = single ffc00000> ...

回答 1 投票 2

© www.soinside.com 2019 - 2024. All rights reserved.