ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准，特别是单精度binary32 aka浮点和双精度binary64又称双格式。

为什么我的 RISC-V FCVT.W.D RTL 实现对于输入 0xC1E0000000000000 返回 0x00000000，而不是 0x80000000？（这是一个极端情况）

我正在调试 RISC-V FCVT.W.D（IEEE 754 格式下的双精度到有符号整型转换）指令的 RTL 实现与其在参考模型中的行为之间的差异...

floating-point system-verilog ieee-754 register-transfer-level riscv32

回答 1 投票 0

尝试将数字放在将被舍入并失去精度的浮点数上时抛出异常

我需要处理 CSV。用户定义列是否具有浮点型或双精度型。问题是，有时他们将双精度数放入浮点列中，在对值进行四舍五入后，用户只能找到 l...

java ieee-754

回答 1 投票 0

为什么 IEEE 754 将 1 ^ NaN 定义为 1，为什么 Java 和 Javascript 违反了这一点？

IEEE 754 将 1 ^ n 定义为 1，无论 n 是多少。（我不会支付 106 美元来亲自证实这一点，但本文引用了 2008 年标准的第 44 页来证明这一点。）大多数编程语言似乎

javascript java floating-point ieee-754

回答 1 投票 0

哪些数字在 IEEE-754 二进制 64（“双精度”）和 64 位二进制补码 long 中具有相同的按位表示

是否存在 64 位二进制补码表示形式（有时用于 long）和 IEEE-754 二进制 64 表示形式（通常用于 double）相同的值？如果有的话，有多少个这样的

bit-manipulation precision ieee-754

回答 1 投票 0

长整型和双精度格式具有相同按位表示的数字

是否存在长整型（使用二进制补码）和双精度型（使用 IEEE 754 格式）的二进制表示形式完全相同的值？如果有，存在多少个这样的数字，分别是什么

bit-manipulation precision ieee-754

回答 1 投票 0

为什么在浮点运算（即 IEEE 754）中我们需要舍入位和粘性位？

在我的大学讲座中，我们刚刚使用下表了解了 IEEE 754 算术： G 右 S 结果 0 x x 什么都不做 1 1 x 围捕 1 0 1 围捕 1 0 0 视情况而定就如...

floating-point ieee-754

回答 1 投票 0

最大安全整数可以用 IEEE 双精度格式 2⁵³ 或 2⁵⁴ 表示吗？

我在多个帖子中看到，以 IEEE 双精度格式表示的最大安全整数是 253： https://stackoverflow.com/a/3793950 https://stackoverflow.com/a/1848768 https://developer.mozilla.or...

floating-point double ieee-754

回答 2 投票 0

IEEE 浮点数界限为 (b-a)+a，其中 0=<a<=b

这是一个特定的利基问题，因此在标题中充分说明：问题给定两个非负数 a 和 b，其中 a 小于或等于 b，我关心以下算法中的 y 是否为

ieee-754

回答 1 投票 0

将浮点值舍入到最接近的 2 次方

虽然对于如何查找整数或浮点数的下一个 2 次方的问题有很多答案，但对于查找数字的最接近的 2 的次方却没有那么多答案。我也...

c++ ieee-754

回答 3 投票 0

浮点精度是52位还是53位？

我不断看到这种关于 64 位 IEEE 浮点表示中 53 位精度的废话。有人可以向我解释一下世界上怎么会有一个被 1 困住的小东西吗...

floating-point ieee-754 floating-point-precision

回答 3 投票 0

为什么console.log只显示0.1+0.2=0.30000000000000004得到的部分数字

我编写了这个函数，展示了 JavaScript 如何以 64 位存储浮点数：函数 to64bitFloat(number) { var f = new Float64Array(1); f[0] = 数字； var view = new Uint8Arr...

javascript binary ieee-754

回答 2 投票 0

跨平台网络代码是否需要序列化浮点数？

我正在阅读本关于网络编程的指南，我非常喜欢：https://beej.us/guide/bgnet/html/split/slightly-advanced-techniques.html#serialization 虽然我对某些事情感到困惑......

c network-programming serialization floating-point ieee-754

回答 1 投票 0

以最有效的方式使用 64 位浮点类型时可以在一个范围内表示多少个值[重复]

给定 64 位浮点类型 (ieee-754) 和闭范围 [R0,R1]，假设 R0 和 R1 都在可表示范围内并且不是 NaN 或 +/-inf 等。如何计算这个数字...

floating-point ieee-754

回答 2 投票 0

使用浮点类型时，一个范围内可以表示多少个值

给定 64 位浮点类型 (ieee-754) 和闭范围 [R0,R1]，假设 R0 和 R1 都在可表示范围内并且不是 NaN 或 +/-inf 等。如何计算这个数字...

floating-point ieee-754

回答 1 投票 0

为什么 IEEE 浮点精度中是 2x - x == x？

我希望这仅在尾数的最后一位为0时成立。否则，为了减去它们（因为它们的指数相差1），x将首先失去一点精度，结果

python precision ieee-754

回答 1 投票 0

ARM 上的 Windows：数学不会陷入困境

我正在使用此代码在 Windows 11、VS2022、amd64 和 arm64 系统上测试捕获数学：神箭 // 编译：cl /O2 /EHa /std:c++20 #包括 #包括 #包括<

c++ winapi arm ieee-754

回答 1 投票 0

atan() 参考实现中奇怪的幂级数系数

glibc（更准确地说，libm）和许多其他 C 库包含 atan() 函数的以下软件实现（请参见此处）： /* s_atanf.c -- s_atan.c 的浮点版本。 * 转换为 f...

c glibc ieee-754 atan

回答 1 投票 0

为什么十进制浮点数不像普通计算机中的浮点数那样有CPU级别的支持？

在存在 Decimal 的语言（C#、Python）中，它比 float/double 慢，因为硬件层面不支持它。那么为什么十进制浮点数没有硬件实现......

floating-point computer-science cpu-architecture ieee-754 dpd

回答 2 投票 0

为什么DPD、Decimal64等没有像普通计算机中的浮点数那样有CPU级别的支持？

在存在 Decimal 的语言（C#、Python）中，它比 float/double 慢，因为硬件层面不支持它。那么为什么不使用DPD（密集十进制）、BID（二进制整数十进制）...

floating-point computer-science cpu-architecture ieee-754 dpd

回答 2 投票 0

为什么DPD、Decimal64等没有像浮点数那样有CPU级别的支持？

在存在 Decimal 的语言（C#、Python）中，它比 float/double 慢，因为硬件层面不支持它。那么为什么不使用DPD（密集十进制）、BID（二进制整数十进制）...

floating-point computer-science cpu-architecture ieee-754 dpd

回答 1 投票 0

ieee-754 相关问题

最新问题