ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准，特别是单精度binary32 aka浮点和双精度binary64又称双格式。

计算正确舍入/几乎正确舍入的浮点立方根

假设可以正确舍入标准库函数，例如CRlibm中提供的。那么，如何计算双精度输入的正确舍入的三次根呢？这个问题...

algorithm floating-point ieee-754

回答 2 投票 8

浮点数乘法：a * 1.0 ==保证吗？

说a是浮点数。是否始终确保* 1.0 ==？

floating-point ieee-754

回答 1 投票 1

为什么IEEE-754的用于确定扩展二进制交换格式的位精度的公式是如此复杂？

ieee-754

回答 1 投票 1

两个不同浮点表示之间的关系

为了简单起见，我将使用并请求使用8位浮点数。同样，忽略符号位。在数值方法课程中，我们正在学习一种浮点表示形式...

floating-point precision ieee-754

回答 1 投票 0

将MySQL DECIMAL转换为浮点IEEE表示的十六进制

我正在尝试将十六进制数据添加到十六进制字符串，并且需要使用其IEEE表示法向该字符串添加浮点数。对于整数，这很简单：SET params = CONCAT（params，...

mysql floating-point hex ieee-754 sql-function

回答 2 投票 0

如何在C＃中获得浮点数的IEEE 754二进制表示形式

我有一些单精度和双精度浮点数，我想写入和读取一个字节[]。 .Net中有什么我可以用来将它们与它们的32位和64位IEEE 754相互转换的...

c# binary floating-point ieee-754

回答 2 投票 20

是否允许JS引擎更改NaN的位？

在JavaScript中，NaN值可由内部广泛的64位double表示。具体来说，具有以下按位表示形式的任何double：x111 1111 1111 xxxx xxxx xxxx xxxx ...

javascript ieee-754

回答 1 投票 6

正确舍入的双精度除法

floating-point ieee-754 numerical-analysis numerical-computing

回答 1 投票 2

IEEE-754的“交换格式”是什么意思？

该标准表示，它们支持实现之间的浮点数据交换。这里的“实施”是什么意思？以及这种交换如何发生？

ieee-754

回答 1 投票 0

如何检查C ++编译器是否使用IEEE 754浮点标准

我想问一个跟在这个问题之后的问题，如果编译器使用标准，那么定义检查会很好地回答这个问题。但是，这仅适用于C。有没有办法在...

c++ compiler-construction floating-point ieee-754

回答 2 投票 28

assembly floating-point cpu-architecture ieee-754 riscv

回答 1 投票 3

打印输出中的36位补丁（'％.70f'％（0.2 + 0.1））

我理解为什么在Python 3中会产生0.1 + 0.2的结果> >>> 0.1 + 0.2 0.30000000000000004 ...但是我不明白为什么在中间的中间会有一个（主要是）非零数字的36位数字...

python floating-point ieee-754

回答 1 投票 0

浮点减法身份

据我所知，在IEEE浮点数中，以下等式确实总是适用：x-0.0 == x但是由于问题，以下数学上的标识不一定总是适用...

floating-point language-agnostic ieee-754

回答 2 投票 0

必要的C编译器标志，用于检查MacOS（旧的和新的）是否符合IEEE-754标准

似乎__STDC_IEC_559__不足以在Apple生态系统中测试IEEE-754合规性，这引出了我的问题：哪个MacOS支持IEEE-754完整或至少支持...

c macos c-preprocessor ieee-754

回答 1 投票 1

将IEEE 754 double转换为字符串的算法？

许多使用IEEE 754双精度的编程语言提供了一个库函数来将这些双精度转换为字符串。例如，C有sprintf，C ++有stringstream，Java有Double.toString等......

string algorithm language-agnostic floating-point ieee-754

回答 4 投票 19

用于constexpr深度和IEEE 754指数计算的NVIDIA nvcc编译标志

请考虑以下代码，将双浮点数的指数计算为常量表达式（采用IEEE 754标准指定的格式）。模板 ...

c++11 cuda constexpr ieee-754 nvcc

回答 1 投票 0

检查一个数字是否可以完全表示为`f32`

我想知道值是1/256,2 / 256,3 / 256，...... 254/256和255/256是否完全可以表示为f32。现在，聪明的人会考虑浮点数如何工作并找出那种方式。 ...

rust floating-point ieee-754

回答 2 投票 5

JAVA的Double.MIN_VALUE，IEEE 754和谷歌的计算器？

似乎谷歌的计算器可以计算出的最小的非零数字是2 ^ -1023。即2 ^ -1024等于0.在JAVA中Double.MIN_VALUE是2 ^ -1074。阅读有关JAVA的Double.MIN_VALUE ...

java math ieee-754

回答 3 投票 -1

在STDC中究竟做了什么（1.0e300 + pow（2.0，-30.0）> 1.0）？

我遇到了一个计算atan（x）的函数（源在这里）。将它简化为我的问题的核心并稍微重新格式化，它们有类似的东西：static const double one ...

c ieee-754 atan2

回答 1 投票 8

32位IEEE 754单精度浮点到十六进制

我已经学会了如何将数字转换为浮点数（在二进制，八进制和十六进制之上），并且知道如何将数字转换为浮点数。但是，在查看工作表时，我有......

floating-point hex ieee-754

回答 2 投票 1

ieee-754 相关问题

最新问题