floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

如何组合有效数字、列宽和对齐说明符？

我想打印具有一致列宽的双精度数。这些数字代表美元价值，因此我也希望小数点后的数字不超过两位。在这里我打算...

c floating-point printf format-specifiers

回答 1 投票 0

以最有效的方式使用 64 位浮点类型时可以在一个范围内表示多少个值[重复]

给定 64 位浮点类型 (ieee-754) 和闭范围 [R0,R1]，假设 R0 和 R1 都在可表示范围内并且不是 NaN 或 +/-inf 等。如何计算这个数字...

floating-point ieee-754

回答 2 投票 0

为什么现代编译器更喜欢 SSE 而不是 FPU 来进行单浮点运算

我最近尝试读取代码的二进制程序集，发现很多浮点运算是使用 XMM 寄存器和 SSE 指令完成的。例如，以下代码：佛罗里达...

c++ c assembly floating-point sse

回答 1 投票 0

C++：计算给定范围内可能的浮点值的数量

我正在开发一个加密应用程序，使用 Crypto++ 作为此应用程序的一个模糊部分，我需要确定某个数字中可以存在的唯一浮点值的最大数量

c++ algorithm floating-point comparison standards

回答 2 投票 0

如何获得 ULP 具有最大尾数值的数字？

我对ULP的理解是，它是两个连续浮点数之间的差距。我正在读的书说 ULP = 机器 epsilon 乘以 2 的指数。这对我来说似乎是正确的

floating-point

回答 1 投票 0

使用说明FYL2XP1

我想知道为什么 x86 架构上的指令 FYL2XP1 精确地计算数学公式 y · log2(x + 1)。这个公式有什么特别之处？

assembly x86 floating-point instructions x87

回答 3 投票 0

使用浮点类型时，一个范围内可以表示多少个值

给定 64 位浮点类型 (ieee-754) 和闭范围 [R0,R1]，假设 R0 和 R1 都在可表示范围内并且不是 NaN 或 +/-inf 等。如何计算这个数字...

floating-point ieee-754

回答 1 投票 0

为什么浮点数乘2就可以转换为二进制？

我知道如何将浮点数转换为二进制遵循这个问题如何将浮点数转换为二进制？但它怎么会这样呢？ 0.625 × 2 得到 1.25，1.25 是一个以 10 为底数的数。为什么要...

floating-point binary floating

回答 1 投票 0

0.001 .. 0.999 范围内有多少个数字不能表示为浮点数？

每个人都知道，并非所有数字都可以表示为浮点数。例如 0.1 没有精确的浮点表示。已经有一个问题了，可以有多少个值

floating-point precision

回答 1 投票 0

在Python中，我可以用一个命令对所有打印的浮点数进行四舍五入吗？

我正在使用一个可以打印许多浮点数的Python脚本。在每个打印命令中，我在打印之前使用 round(x, 3) 将打印的数字 x 四舍五入到小数点后 3 位。这是一个

python floating-point output rounding

回答 1 投票 0

-funsafe-math-optimizations 中包含哪些类型的优化？

GCC 的手册页指出 -funsafe-math-optimizations 允许进行优化，“(a) 假设参数和结果有效，(b) 可能违反 IEEE 或 ANSI 标准”，但这并不是很

c gcc optimization floating-point

回答 2 投票 0

sin 和 cos 对于众所周知的角度给出了意想不到的结果

当我将 180 度的角度传递给 C/C++ 的 cos() 和 sin() 函数时，我似乎收到了错误的值。我知道它应该是：罪恶为 0.0547 余弦为 0.99 但是，我得到：罪过 3.

c++ floating-point trigonometry cmath

回答 3 投票 0

bash printf 因浮动而损坏

我有一个获取电池信息的bash脚本。这是其中的一部分： #!/bin/bash 如果 [ -f /sys/class/power_supply/BAT0/energy_full ];然后 EF=$( 回声 $(cat /sys/class/power_supply/BAT0/energy_f...

bash floating-point printf

回答 1 投票 0

Fortran 中内函数fraction() 的输出错误

我不明白FRACTION()的输出，例如写（*，*）分数（553.334）它给了我 0.5403652。我认为它应该返回 0.334，就像 553.334-floor(553.334) 那样。我的

floating-point fortran

回答 4 投票 0

Clang float 无穷大除以无穷大会产生带有优化标志的不同结果

我刚刚发现，当使用任何优化选项进行编译时，当将 float 无穷大除以自身时，会导致 clang 上出现不同的 NaN。 std::numeric_limits::infinity()/std::

c++ floating-point nan clang++

回答 1 投票 0

如何使用Aarch64架构进行80位浮点运算？

为我在标题中提出的问题提供更多上下文：我正在使用 VS C++，我需要从内存中读取 80 位浮点数并将其格式化为人类可读的形式。我可以做一些...

c++ visual-studio assembly floating-point arm64

回答 1 投票 0

如何在C#中将Decimal转换为Double？

我想将十进制变量 trans 赋给双精度变量 this.Opacity。小数 trans = trackBar1.Value / 5000; this.不透明度=反式；当我构建应用程序时，出现以下错误： C...

c# floating-point type-conversion double decimal

回答 13 投票 0

查找哪个相同大小的正方形包含给定的坐标

问题我正在开发一个图像处理库，该库可以分割图像并逐部分分析它。我有一个给定高度 H 和宽度 W（以像素为单位）的图像，并且想将其除以 fa...

image-processing floating-point rectangles bignum

回答 1 投票 0

为什么在整数除法中添加 Epsilon 不能防止零除？

我知道有更好的方法来处理整数除法中除零的情况。然而，出于教育目的，我很好奇为什么要在除数中添加一个小的 epsilon 值 (1e-7)...

python floating-point divide-by-zero epsilon

回答 1 投票 0

› ...如何投诉meesho要求退款

meesho？ <>打开meesho应用程序并转到“帮助”支持团队联系服务电话☎️ 07894693712 .. ✅部分。米绍？ <>打开meesho应用程序并转到“帮助”...

python floating-point

回答 1 投票 0

floating-point 相关问题

最新问题