floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

为什么 gcc -O1 会影响 std::rint()？

为什么下面的代码在使用 g++ -O1 编译时会产生 -1？我的gcc版本是13.2.1。 #包括 #包括 #包括使用命名空间 std； int主要...

c++ gcc floating-point rounding

回答 1 投票 0

如何在 f 字符串中格式化以逗号作为小数分隔符的浮点数？

对于Python中的某些机器控制，我将结果写入文本文件，其他人可以将其复制到Excel中（这是在这种情况下最方便的方法）。然而，在荷兰，Excel...

python floating-point format f-string

回答 6 投票 0

修正flutter中原始数据读取问题

我收到血压测量的原始数据：[DE, E2, F4, 3E, F3, FF, 07, E8, 07, 03, 13, 02, 21, 00, 34, F3, 01, C0, 00 ]。我成功读取了收缩压和舒张压的值，并且

flutter floating-point bluetooth-lowenergy device ieee-11073

回答 1 投票 0

将最小 32 位整数 (-2147483648) 转换为浮点数会得到正数 (2147483648.0)

我正在开发一个嵌入式项目，当时我遇到了一些我认为很奇怪的行为。我设法在键盘上重现它（见下文）以确认，但没有任何其他 C 编译...

c floating-point integer long-integer minimum

回答 2 投票 0

将最小的负 long long 值转换为 double 会改变其符号

我很惊讶在C中将最小的负long long值转换为long double会改变它的符号从负到正，所以我做了一个测试程序。我正在编译并运行这个 C 程序...

c floating-point long-long

回答 1 投票 0

（x/y >= z）什么时候用浮点数表示（x >= y*z）？

我知道浮点数并不是实数的精确表示，并且有各种“模糊比较”方法可以避免实践中出现意外。这个

c++ floating-point

回答 1 投票 0

如何将浮点数数组转换为 byte[] 并返回？

我有一个浮点数组需要转换为字节数组并返回浮点[]...任何人都可以帮助我正确地执行此操作吗？我正在使用 bitConverter 类，发现自己陷入困境......

c# .net floating-point arrays endianness

回答 5 投票 0

Perl 和次标准浮点零

在 Perl 中使用浮点格式时，我注意到一些奇怪的地方：看来 Perl 5.18.2（至少在 x86_64 Linux 上）不能正确处理次正常数字（如 -0）（考虑到 IEEE 64 位...

perl floating-point ieee-754

回答 1 投票 0

如何在 Perl 中比较浮点数“相等”

请注意，我已将“相等”放在双引号中，因此请继续阅读详细信息：我编写了一些代码，将 Perl 对象存储在文件中并从那里检索它们。我正在使用我自己的 JSON-ba...

perl floating-point

回答 2 投票 0

如何测试负零？

最初我认为 Math.Sign 是正确的方法，但运行测试后似乎它对待 -0.0 和 +0.0 是相同的。

c# .net floating-point

回答 7 投票 0

浮点序列化/解析舍入

我在内存中存储了以下浮点数（浮点数，而不是双精度数） 0b00111101111001000010000111001000 根据浮点转换器转换为 0.1113925576210021972656...

c++ floating-point rounding

回答 1 投票 0

理解浮点问题

这里有人可以帮助我了解如何确定浮点限制何时会导致计算错误。例如下面的代码。计算总税 = 函数 (

c# javascript vb.net floating-point

回答 4 投票 0

错误：流体模拟属性梯度计算中没有运算符“+=”与 float 和 Vector2 匹配

我正在尝试使用 C++ 和 OpenGL 来观看 Sebastian Lague 的流体模拟视频。我现在正在计算 propertyGradient 值（时间戳是 14:15）。我会尽力提供所有代码...

c++ opengl vector floating-point operator-overloading

回答 1 投票 0

仅从无符号位字符串检查浮点数的边界

我试图返回将单精度浮点数从其位字符串转换为 int 的结果。我正确地从位串中获取符号位、指数和尾数，但我不确定如何...

c floating-point bitstring

回答 1 投票 0

对 MATLAB 集成的误解

大家！你们能解释一下为什么要精确集成吗？四边形( @(x)x.^3-2.*x,0,2) 是 -2.220446049250313e-016 而不是零，就像它应该的那样？

matlab floating-point precision numerical-integration

回答 1 投票 0

Python 中的最大浮点数是多少？

Python 2 中的最大整数可通过调用 sys.maxint 获得。 Python 中的最大 float 或 long 是多少？另请参阅：整数的最大值和最小值。

python floating-point max long-integer

回答 4 投票 0

将 Pytorch bfloat16 张量转换为 numpy 会抛出 TypeError

当您尝试将 Torch bfloat16 张量转换为 numpy 数组时，它会抛出 TypeError：进口火炬 x = torch.Tensor([0]).to(torch.bfloat16) x.numpy() # TypeError: 得到不支持的 ScalarType BF...

python numpy pytorch floating-point tensor

回答 1 投票 0

Java中是否有某种池可以避免重复最近的算术运算？

我有以下三种方法： public static void test1(点点) { Handler.doSomething(point.x / 2.0f, point.y / 1.75f); } public static void test2(点点) {...

java static floating-point pool

回答 1 投票 0

浮点数可以容纳的最大数字，同时仍保留一定的小数精度

我想知道 32 位浮点数可以容纳的最大正数，同时仍然能够表示大约 1/1000 的十进制分辨率。因此，例如如果浮点数代表千瓦...

floating-point precision

回答 1 投票 0

是否存在非负浮点 a,b,c 使得 a + (b - a) * c > b 且 a < b and c < 1?

这个问题与何时 (b - a) + a != b 完全为浮点数但带有一个必须严格小于 1 的附加乘法器 c 相关。正式地，我问自己是否有前...

floating-point ieee-754

回答 1 投票 0

floating-point 相关问题

最新问题