ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准，特别是单精度binary32 aka浮点和双精度binary64又称双格式。

Python为什么要四舍五入？

我正在使用IEEE 754定义的64位浮点算法。最小的次正规数是：2 ^ -1074 = 5e-324 = 5 * 10 ^ -16 * 10 ^ -308将后者加到实数结果中在：2 ^ -...

python numpy floating-point precision ieee-754

回答 1 投票 1

为什么2 **-1025！= 0.0在Python中

根据IEEE754的规范，以64位编码的浮点数的指数为11位，尾数为52位。因此，可以编码为浮点数的较小数字应为2 **（-2 ** 10）。 ...

python floating-point precision ieee-754

回答 1 投票 2

为什么是Number.MAX_VALUE 1.7976931348623157e + 308而不是9007199254740992e + 1024？

JavaScript使用IEEE 754存储整数和浮点值的数字，其中53位用于表示尾数，而11位用于表示指数。 ...

javascript ieee-754

回答 2 投票 4

无法以无符号长移位十六进制数据

我正在尝试将IEEE 754浮点表示形式转换为其十进制等效项，所以我有一个示例数据[7E FF 01 46 4B CD CC CC CC CC CC 10 40 1B 7E]。 char ...

embedded bit-shift ieee-754 shift unsigned-long-long-int

回答 1 投票 0

二进制浮点（IEEE 754）如何转换为十进制（即字符串）？

这可能是一个非常愚蠢的问题，但是我一直在搜索一整天，但没有得到答案。假设我有一个双精度浮点字面量：5.21。调用Double ....

floating-point precision tostring ieee-754

回答 1 投票 0

Node Buffer.readFloatBE（）将数据扩展到64位

[使用32位浮点数与缓冲区进行数据转换时，似乎nodejs使用一些使转换不可逆的条件将浮点数扩展为两倍：> f = 3 ....

javascript node.js floating-point precision ieee-754

回答 1 投票 0

计算正确舍入/几乎正确舍入的浮点立方根

假设可以正确舍入标准库函数，例如CRlibm中提供的。那么，如何计算双精度输入的正确舍入的三次根呢？这个问题...

algorithm floating-point ieee-754

回答 2 投票 8

浮点数乘法：a * 1.0 ==保证吗？

说a是浮点数。是否始终确保* 1.0 ==？

floating-point ieee-754

回答 1 投票 1

为什么IEEE-754的用于确定扩展二进制交换格式的位精度的公式是如此复杂？

ieee-754

回答 1 投票 1

两个不同浮点表示之间的关系

为了简单起见，我将使用并请求使用8位浮点数。同样，忽略符号位。在数值方法课程中，我们正在学习一种浮点表示形式...

floating-point precision ieee-754

回答 1 投票 0

将MySQL DECIMAL转换为浮点IEEE表示的十六进制

我正在尝试将十六进制数据添加到十六进制字符串，并且需要使用其IEEE表示法向该字符串添加浮点数。对于整数，这很简单：SET params = CONCAT（params，...

mysql floating-point hex ieee-754 sql-function

回答 2 投票 0

如何在C＃中获得浮点数的IEEE 754二进制表示形式

我有一些单精度和双精度浮点数，我想写入和读取一个字节[]。 .Net中有什么我可以用来将它们与它们的32位和64位IEEE 754相互转换的...

c# binary floating-point ieee-754

回答 2 投票 20

是否允许JS引擎更改NaN的位？

在JavaScript中，NaN值可由内部广泛的64位double表示。具体来说，具有以下按位表示形式的任何double：x111 1111 1111 xxxx xxxx xxxx xxxx ...

javascript ieee-754

回答 1 投票 6

正确舍入的双精度除法

floating-point ieee-754 numerical-analysis numerical-computing

回答 1 投票 2

IEEE-754的“交换格式”是什么意思？

该标准表示，它们支持实现之间的浮点数据交换。这里的“实施”是什么意思？以及这种交换如何发生？

ieee-754

回答 1 投票 0

如何检查C ++编译器是否使用IEEE 754浮点标准

我想问一个跟在这个问题之后的问题，如果编译器使用标准，那么定义检查会很好地回答这个问题。但是，这仅适用于C。有没有办法在...

c++ compiler-construction floating-point ieee-754

回答 2 投票 28

assembly floating-point cpu-architecture ieee-754 riscv

回答 1 投票 3

打印输出中的36位补丁（'％.70f'％（0.2 + 0.1））

我理解为什么在Python 3中会产生0.1 + 0.2的结果> >>> 0.1 + 0.2 0.30000000000000004 ...但是我不明白为什么在中间的中间会有一个（主要是）非零数字的36位数字...

python floating-point ieee-754

回答 1 投票 0

浮点减法身份

据我所知，在IEEE浮点数中，以下等式确实总是适用：x-0.0 == x但是由于问题，以下数学上的标识不一定总是适用...

floating-point language-agnostic ieee-754

回答 2 投票 0

必要的C编译器标志，用于检查MacOS（旧的和新的）是否符合IEEE-754标准

似乎__STDC_IEC_559__不足以在Apple生态系统中测试IEEE-754合规性，这引出了我的问题：哪个MacOS支持IEEE-754完整或至少支持...

c macos c-preprocessor ieee-754

回答 1 投票 1

ieee-754 相关问题

最新问题