floating-accuracy 相关问题

关于对浮点数执行的操作的准确性。

从光栅文件获取坐标时避免舍入

我正在将光栅转换为点进行一些计算。光栅点的精度为0.5，当我试图得到点矩阵内点的坐标时，R决定绕Y ...

r coordinates rounding floating-accuracy geo

回答 2 投票 0

如何修复numpy浮点运算产生不精确的结果？

知道样本大小，我需要从相对频率重建绝对频率。这应该很容易，但绝对频率和样本大小是numpy.int64，相对频率是numpy ....

python pandas numpy comparison floating-accuracy

回答 2 投票 1

浮动减法给我不准确的结果[重复]

我正在编写一个代码，其中每半秒进行一次测量，需要从初始值中减去最终达到0。两个值都是浮点数。初始值为140 000 000并且......

c++ floating-accuracy subtraction

回答 1 投票 -2

用C语言减去浮点数

＃包括＃包括 float sum（float * A，int len）//浮点表的总和{float ss = 0.0; int i; for（i = 0; i <len; ++ i）ss + = A [i]; ...

c floating-point precision floating-accuracy qsort

回答 2 投票 -3

C编程为什么浮点值改变[关闭]

我需要这个程序的帮助。浮点数组的购买[2]值为90.50，但是当我运行代码时，它从90.50变为90.5010.990000。为什么？购买[0]和购买[1]打印罚款。任何帮助......

c arrays loops floating-accuracy

回答 3 投票 -3

浮点数呈现背后的谜团

我正在为我的应用程序测试一些简单的解决方案，我遇到了一些问题出现在我脑海中的情况......“为什么一个浮动数字正确地用JSON表示（正如我所料）而另一个不是......

swift floating-point decimal precision floating-accuracy

回答 3 投票 0

在Javascript中处理浮点精度[重复]

我在javascript中有大量的数值y。我想通过将它们舍入到最接近的x的倍数来对它们进行分组，并将结果转换为字符串。我怎么绕过烦人的...

javascript floating-point double floating-accuracy numerical-methods

回答 5 投票 74

添加JavaScript和PHP中的浮点数和一致性

我确信很多人都经历过，我在浮点数学方面遇到了一些问题 - 我用JavaScript修复了这个问题，不过虽然在PHP中似乎没问题我想确保它可以依赖...

javascript php floating-point floating-accuracy

回答 1 投票 0

在大熊猫舍入时纠正浮点算术'错误'

我有一个我必须处理的数字，我讨厌（我相信还有其他人）。它是a17 = 0.0249999999999999 a18 = 0.02499999999999999情况1：圆形（a17,2）给出0.2轮（a18,2）给出0.3 ...

python pandas floating-accuracy rounding-error

回答 1 投票 0

在C中除以整数将值向下舍入/结果为零

我正在尝试对整数进行一些算术运算。问题是当我试图进行除法得到双倍的结果时，结果总是0.00000000000000000000，即使这显然不是......

c floating-point precision floating-accuracy

回答 4 投票 0

浮点舍入误差会将报告结果移动到范围内

我正在开发一个函数来报告测试结果以及该特定测试结果的下限和上限。这三个值将使用指定的公式（aX + b）/ c进行转换，其中X是......

c floating-point rounding floating-accuracy

回答 2 投票 0

为什么在.NET中将两个双倍相乘时会发生这种情况[重复]

当倍增时，我面临着相当奇怪的行为。制作一个简单的控制台应用程序并尝试使用代private static void Main（string [] args）{var b1 = 3.1 * 100D; var a1 = 4.1 * ...

c# .net floating-point floating-accuracy

回答 1 投票 -1

在cin / cout和scanf / printf期间在C ++中保存float和double precision

我想从标准输入中读取浮点数和双精度数，并保存其精度（浮点后精确相同的数字）并能够按原样输出（cout / printf）。什么最方便（和...

printf scanf cout cin floating-accuracy

回答 3 投票 1

为什么SetPixel不准确？如何将float应用于整数？统一

我正在使用Shader让我在纹理上打洞。我使用Raycast的TextCoord来选择应该是洞的地方。接下来，我使用SetPixel32来打洞。不幸的是每个版本......

unity3d unity5 precision pixel floating-accuracy

回答 1 投票 1

在Java中向float中添加值会减慢到512

这一行在循环中执行：shape.setPosX（shape.getPosX（）+（。005f *（float）getDelta（）））; getDelta是自上一个循环以来经过的双精度数，通常平均值为~0.001。 ...

java floating-point floating-accuracy

回答 1 投票 1

向下舍入浮动

首先让我给出32位浮点和十进制表示的十六进制和二进制。 0x5060000f = 01010000011000000000000000001111 = 15032400896 0x43800005 = 01000011100000000000000000000101 = 256 ....

floating-point numbers floating-accuracy

回答 1 投票 0

floating-accuracy 相关问题

最新问题