floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

int16_t 到 __half constexpr 转换

我是空中客车的开发人员，我面临着半精度算术的困难。在库中的某个时刻，我需要在 constexpr 中将 IntType 转换为相关的 FloatType（相同的位数）

c++ floating-point cuda constexpr half-precision-float

回答 1 投票 0

If 语句无法计算基本浮点问题

我正在阅读 Bjarne Stroustrup 的《Programming-Principles And Practice Using C++》一书，目前我被第 4 章的第 5 个“练习”问题难住了。有一个服务...

c++ if-statement while-loop floating-point double

回答 1 投票 0

在 Ruby 中使用大整数将小数正确转换为浮点

出于学习目的，我正在尝试实现将十进制字符串转换为 64 位浮点数的算法的核心部分。我使用此页面的解释作为指导：ht...

ruby floating-point decimal

回答 1 投票 0

在 C# 中从浮点数中减去一个值并将其加回来不会给出原始值[重复]

上下文：我试图确定两个角度，当两个角度相加 d 次时，等于 6.28319 弧度（或 360 度）。下面是我的代码，我在其中计算 dTheta（6.28319 弧度除以...

c# unity-game-engine math floating-point trigonometry

回答 1 投票 0

为什么float类型和decimal类型有区别

在 SQL Server 数据库中，我的表中的浮点列中存储了一个值，对应于格式为“秒.毫秒”的持续时间，我想要微秒数。我有

sql sql-server floating-point decimal

回答 1 投票 0

如何解决Float型机器Epsilon计算错误？

#包括无效 get_eps(浮点 *eps) { *每股收益=1.0f； while ((1.0f + *eps / 2.0f) != 1.0f) { *每股收益/= 2.0f； } } int main(){ 浮动 eps； get_eps(&eps);

c floating-point floating-accuracy epsilon

回答 1 投票 0

如何组合有效数字、列宽和对齐说明符？

我想打印具有一致列宽的双精度数。这些数字代表美元价值，因此我也希望小数点后的数字不超过两位。在这里我打算...

c floating-point printf format-specifiers

回答 1 投票 0

以最有效的方式使用 64 位浮点类型时可以在一个范围内表示多少个值[重复]

给定 64 位浮点类型 (ieee-754) 和闭范围 [R0,R1]，假设 R0 和 R1 都在可表示范围内并且不是 NaN 或 +/-inf 等。如何计算这个数字...

floating-point ieee-754

回答 2 投票 0

为什么现代编译器更喜欢 SSE 而不是 FPU 来进行单浮点运算

我最近尝试读取代码的二进制程序集，发现很多浮点运算是使用 XMM 寄存器和 SSE 指令完成的。例如，以下代码：佛罗里达...

c++ c assembly floating-point sse

回答 1 投票 0

C++：计算给定范围内可能的浮点值的数量

我正在开发一个加密应用程序，使用 Crypto++ 作为此应用程序的一个模糊部分，我需要确定某个数字中可以存在的唯一浮点值的最大数量

c++ algorithm floating-point comparison standards

回答 2 投票 0

如何获得 ULP 具有最大尾数值的数字？

我对ULP的理解是，它是两个连续浮点数之间的差距。我正在读的书说 ULP = 机器 epsilon 乘以 2 的指数。这对我来说似乎是正确的

floating-point

回答 1 投票 0

使用说明FYL2XP1

我想知道为什么 x86 架构上的指令 FYL2XP1 精确地计算数学公式 y · log2(x + 1)。这个公式有什么特别之处？

assembly x86 floating-point instructions x87

回答 3 投票 0

使用浮点类型时，一个范围内可以表示多少个值

给定 64 位浮点类型 (ieee-754) 和闭范围 [R0,R1]，假设 R0 和 R1 都在可表示范围内并且不是 NaN 或 +/-inf 等。如何计算这个数字...

floating-point ieee-754

回答 1 投票 0

为什么浮点数乘2就可以转换为二进制？

我知道如何将浮点数转换为二进制遵循这个问题如何将浮点数转换为二进制？但它怎么会这样呢？ 0.625 × 2 得到 1.25，1.25 是一个以 10 为底数的数。为什么要...

floating-point binary floating

回答 1 投票 0

0.001 .. 0.999 范围内有多少个数字不能表示为浮点数？

每个人都知道，并非所有数字都可以表示为浮点数。例如 0.1 没有精确的浮点表示。已经有一个问题了，可以有多少个值

floating-point precision

回答 1 投票 0

在Python中，我可以用一个命令对所有打印的浮点数进行四舍五入吗？

我正在使用一个可以打印许多浮点数的Python脚本。在每个打印命令中，我在打印之前使用 round(x, 3) 将打印的数字 x 四舍五入到小数点后 3 位。这是一个

python floating-point output rounding

回答 1 投票 0

-funsafe-math-optimizations 中包含哪些类型的优化？

GCC 的手册页指出 -funsafe-math-optimizations 允许进行优化，“(a) 假设参数和结果有效，(b) 可能违反 IEEE 或 ANSI 标准”，但这并不是很

c gcc optimization floating-point

回答 2 投票 0

sin 和 cos 对于众所周知的角度给出了意想不到的结果

当我将 180 度的角度传递给 C/C++ 的 cos() 和 sin() 函数时，我似乎收到了错误的值。我知道它应该是：罪恶为 0.0547 余弦为 0.99 但是，我得到：罪过 3.

c++ floating-point trigonometry cmath

回答 3 投票 0

bash printf 因浮动而损坏

我有一个获取电池信息的bash脚本。这是其中的一部分： #!/bin/bash 如果 [ -f /sys/class/power_supply/BAT0/energy_full ];然后 EF=$( 回声 $(cat /sys/class/power_supply/BAT0/energy_f...

bash floating-point printf

回答 1 投票 0

Fortran 中内函数fraction() 的输出错误

我不明白FRACTION()的输出，例如写（*，*）分数（553.334）它给了我 0.5403652。我认为它应该返回 0.334，就像 553.334-floor(553.334) 那样。我的

floating-point fortran

回答 4 投票 0

floating-point 相关问题

最新问题