floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

以 double 形式传递浮点值时的双精度

我对双精度有疑问。当将浮点值传递给双精度时，我会得到一些不同的结果。例如浮动 f= 54.23f；双 d1 = f; System.out.println(d1); 输出...

java floating-point double

回答 5 投票 0

浮点数有负零吗？ (-0f)

IEEE 浮点数有一个指定位来指示符号，这意味着从技术上讲，您可以使用不同的零二进制表示形式（+0 和 -0）。有没有算术运算我可以...

floating-point language-agnostic negative-zero

回答 10 投票 0

php 整数 - 当 echo 时显示 2 位小数，如果打印到 CSV 则显示 .0999999

使用 http://www.maatwebsite.nl/laravel-excel/ 导出到 CSV 和 Excel。我有一个 $rows 数组，其中包含所有行及其列。有些列使用 number_format(ro...

php floating-point rounding precision number-formatting

回答 1 投票 0

将混合字母数字/数字数据从 Excel 导入 R 时避免浮点错误

我有一个 Excel 文件，其中有一列可变长度的字母数字代码 - 请参阅问题末尾的示例。我一直在尝试使用 readxl 库将其读入 R： read_xlsx("文件.xlsx&

r excel floating-point

回答 1 投票 0

sin() 对于不同平台返回的结果略有不同

我在 CI 期间注意到这段代码 #包括 #包括 int main() { 常量双 d = 3.81219767052986080458； fprintf(stderr, "%.20f “，罪（d））；

c floating-point

回答 1 投票 0

在 C 语言中比较 double 与文字值在 32 位机器上会给出不同的结果

有人可以解释一下原因吗：双 d = 1.0e+300； printf("%d “，d==1.0e+300); 在 64 位机器上按预期打印“1”，但在 32 位机器上打印“0”？（我在 Fedora 25 上使用 GCC 6.3 得到了这个......

c gcc x86 floating-point 32bit-64bit

回答 1 投票 0

C++ 浮点运算中的意外行为

所以，我写了一些代码： #包括 #包括 int main() { 整数a，b，n； std::cin >> a >> b >> n; 双 xi[n]; 双义[n]; 双...

c++ floating-point

回答 1 投票 0

为什么非规格化浮点数中的指数 E = 1 - 偏差？

例如，对于 32 位非规范化浮点数，指数将为 -126。 -126 在这种情况下有什么意义？

floating-point bit denormalized

回答 2 投票 0

(.0) JavaScript 中的浮动

我正在尝试为一个函数编写代码，在检查该值是否为整数后显示布尔值。当我调用 fun 时，请参阅下面我的理想输出中整数的定义...

javascript node.js function floating-point

回答 1 投票 0

Ruby 浮点数学 - 求和计算中的精度问题

我在浮点数学方面遇到了一些问题，并且完全迷失在“.to_f”、“*100”和“.0”中！我希望有人可以帮助我解决我的具体问题...

ruby-on-rails ruby validation math floating-point

回答 3 投票 0

在处理非常接近零的数字或其他边缘情况时，如何处理 C 中的浮点精度

我用 C 语言编写了一个程序，根据给定的三个点计算三个点。所以我们给定点 A、B、C 并计算点 A'、B'、C'。现在有三种方法可以实现这些点...

c math floating-point double precision

回答 1 投票 0

如何检查字符串是否可解析为双精度？ [重复]

是否有一种本机方法（最好不实现您自己的方法）来检查字符串是否可以使用 Double.parseDouble() 进行解析？

java string parsing floating-point

回答 6 投票 0

x86_64 的 clang 上的半精度浮点支持

我正在尝试在 x86_64 上试验半精度浮点数 (_Float16)（为什么不呢？）。 clang-17（在 ubuntu-20.04 上）似乎可以正确编译，但链接器显示以下错误： /usr/bin/ld: /tmp...

floating-point clang precision

回答 1 投票 0

为什么在浮点运算（即 IEEE 754）中我们需要舍入位和粘性位？

在我的大学讲座中，我们刚刚使用下表了解了 IEEE 754 算术： G 右 S 结果 0 x x 什么都不做 1 1 x 围捕 1 0 1 围捕 1 0 0 视情况而定就如...

floating-point ieee-754

回答 1 投票 0

从 float 转换为 big.Int 时如何保持 golang 中大数的精度

我有一个输入可能是非常大或非常小的浮点数，需要将其转换为big.Int，但由于某种原因，存在一些精度损失。我知道这应该发生在非常小的人身上......

go floating-point precision

回答 1 投票 0

最大安全整数可以用 IEEE 双精度格式 2⁵³ 或 2⁵⁴ 表示吗？

我在多个帖子中看到，以 IEEE 双精度格式表示的最大安全整数是 253： https://stackoverflow.com/a/3793950 https://stackoverflow.com/a/1848768 https://developer.mozilla.or...

floating-point double ieee-754

回答 2 投票 0

什么时候需要使用float.PositiveInfinity和float.NegativeInfinity？

我们什么时候需要使用无穷大值，请添加一个真实世界的样本（如果有）。

c# floating-point infinity

回答 2 投票 0

如何动态改变包中计算的浮点精度？

我正在用 python 编写一个包，它使用不同的库（numpy、numexp、pyfftw）执行许多数组操作。它由几个实用程序脚本和一个解析 .ini 文件的模拟脚本组成...

python numpy package floating-point

回答 1 投票 0

将 IEEE Float 十六进制字符串转换为 Excel VBA Single（浮点）

我有一个从设备读取的输入字符串，它是 32 位浮点值的 ASCII 十六进制表示形式。例如“4048f5c3”（--> 3.14）我的问题是如何将其变成

excel vba floating-point type-conversion bitwise-operators

回答 1 投票 0

什么情况下 ceil(x-0.5) != Floor(x+0.5)

根据 cppreference round 的行为如下双圆(双x) { 返回符号位（x）？天花板(x - 0.5) : 地板(x + 0.5); } 我想知道 ceil(x - 0.5) 和 Floor(x + ...

c++ c floating-point rounding fpu

回答 1 投票 0

floating-point 相关问题

最新问题