ieee-754 相关问题

IEEE 754是最常用和广泛使用的浮点标准，特别是单精度binary32 aka浮点和双精度binary64又称双格式。

如果x，y和a是具有整数值的数字，x / y是否会舍入到与（x * a）/（y * a）相同的值？

根据Is浮点数学是否破坏？，我知道0.1不能精确表示浮点数并将四舍五入到某些值。根据是硬编码漂浮精确，如果它可以...

javascript math floating-point division ieee-754

回答 1 投票 2

IEEE 754和浮点精度

IEEE 754提供的精度达到32位还是64位CPU会有什么不同吗？我的意思是在用C编程时，浮点数，双倍和长双倍的大小是......

c floating-point cpu 32bit-64bit ieee-754

回答 4 投票 0

在不同的平台/编译器上实现相同的浮点计算结果？

不同的平台具有不同的FP功能，具有不同的参数和行为，因此它们产生的计算结果之间存在一定程度的差异，其级联和...

c++ c double ieee-754 fpu

回答 1 投票 2

为什么从float转换为double会改变这个值？

我一直试图找出原因，但我不能。有谁能够帮我？请看下面的例子。 float f = 125.32f; System.out.println（“f =”+ f的值）; double d =（double）125.32f; ...

java floating-point double precision ieee-754

回答 9 投票 14

标准C ++ 11中的IEEE 754总订单

根据IEEE浮点数wikipage（在IEEE 754上），在双精度浮点上有一个总顺序（即在具有IEEE-754浮点数的C ++ 11实现上，如Linux /上的gcc 4.8 ...

c++11 ieee-754

回答 1 投票 9

.NET Core中gamedev的浮点确定性

背景我们正在使用C＃和.NET Core开发RTS游戏引擎。与大多数其他实时多人游戏不同，RTS游戏倾向于通过将玩家输入与其他玩家同步来工作，并且......

c# .net-core floating-point sse ieee-754

回答 2 投票 1

使用按位运算将Int转换为Float或Float转换为Int（软件浮点）

我想知道你是否可以帮助解释将整数转换为float或float转换为整数的过程。对于我的班级，我们只使用按位运算符来做这个，但我认为一个公司......

assembly floating-point arm bit-manipulation ieee-754

回答 3 投票 10

在双打中表示整数

一个double（给定数量的字节，具有合理的尾数/指数平衡）是否总能完全精确地保持无符号整数的范围是该字节数的一半？例如。能八点......

c math floating-point precision ieee-754

回答 5 投票 19

Java：IEEE双向IBM Float

我正在开展工作的侧面项目，我想读/写SAS传输文件。挑战在于数字是以64位IBM浮点数编码的。虽然我能够......

java ieee-754

回答 1 投票 -2

IEEE 754身份法：字面意义和价值改变优化

IEEE 754-2008标准规定，对于0 + x和1 * x这样的表达式，可以应用标识属性（第10.4节）：当x不是信令NaN时应用标识属性1×x，并且......

floating-point nan ieee-754

回答 1 投票 1

JavaScript中的浮点数（IEEE 754）

如果我理解正确，JavaScript编号总是存储为双精度浮点数，遵循国际IEEE 754标准。这意味着它使用52位分数...

javascript ieee-754

回答 3 投票 2

任何真实的CPU都不使用IEEE 754吗？

我正在优化数值/统计库的排序函数，基于这样的假设：在过滤掉任何NaN并做一点点琐事之后，浮点数可以比较为32位整数...

performance sorting floating-point ieee-754

回答 5 投票 30

为什么IEEE754选择11个指数位用于双精度二进制64？

我一直在阅读，似乎IEEE 754将64位浮点数（双）指数定义为11位。（https://en.wikipedia.org/wiki/Double-precision_floating-point_format）我的问题是为什么？一个64 ...

floating-point double precision ieee-754

回答 1 投票 1

MySQL如何进行浮点加法的数学计算？

我用SELECT 0.1 + 0.2测试;用MySQL（MariaDB）查询，它返回正确答案MariaDB [（无）]> SELECT 0.1 + 0.2; + ----------- + | 0.1 + 0.2 | + ----------- + | 0.3 | + --------...

mysql sql ieee-754

回答 2 投票 3

解析整数位模式，因为IEEE 754在飞镖中浮动

我通过接口（蓝牙，列表）获得4个字节的数据。数据表示IEEE 754浮点数（例如0x3fd0a3d7，表示大约1.63作为binary32浮点数）有没有办法......

dart floating-point ieee-754 type-punning

回答 1 投票 0

处理货币价值，将数字除以100是否安全？

在存储库代码中，在另一个团队开发的模块中，我发现有一个价格从美分到欧元的转换，只是将数字除以100.代码是Javascript，所以它......

javascript ieee-754 ieee

回答 2 投票 4

将real转换为IEEE双精度std_logic_vector（63 downto 0）

这真的不应该这么困难。我想从文件中读取原始的64位IEEE 754双精度浮点数据，并在std_logic_vector（63 downto 0）中使用它。我正在使用ModelSim ......

floating-point vhdl ieee-754

回答 3 投票 1

对于IEEE 754浮点，double z = x-y是否保证z + y == x？

我有一个问题可以简化为这个问题陈述：给定一系列双精度，其中每个都在[0,1e7]范围内，修改最后一个元素，使得数字之和等于......

c# floating-point ieee-754

回答 3 投票 4

如何在systemverilog中控制实数的舍入模式

我想为FPU模块编写测试，但无法找到在SystemVerilog中更改实数舍入模式的方法。是否存在系统功能或任何简单方法？谢谢 ...

rounding system-verilog ieee-754

回答 1 投票 0

为什么IEEE 754保留了如此多的NaN值？

似乎IEEE 754标准将16,777,214个32位浮点值定义为NaN，或所有可能值的0.4％。我想知道保留这么多有用价值的理由是什么，而......

floating-point nan ieee-754

回答 3 投票 33

ieee-754 相关问题

最新问题