floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

舍入到偶数131.575导致奇数而不是偶数

请考虑以下代码示例：var tests = new List {131.505,131.515,131.525,131.535,131.545,131.555,131.565,131.575,131.585,131.595}; foreach（测试中的双n）{...

c# .net floating-point numbers rounding

回答 1 投票 2

添加JavaScript和PHP中的浮点数和一致性

我确信很多人都经历过，我在浮点数学方面遇到了一些问题 - 我用JavaScript修复了这个问题，不过虽然在PHP中似乎没问题我想确保它可以依赖...

javascript php floating-point floating-accuracy

回答 1 投票 0

正则表达式添加数千，数百万等逗号（但避免在小数点后添加它们）Javascript

问题很简单，我们需要将逗号放在正确的位置，以帮助用户以正确的方式格式化数字。例如，如果用户输入：123123123.534343，结果应该......

javascript regex floating-point decimal

回答 2 投票 1

int在c＃中浮动转换[重复]

我有一个c＃app打开一个文件并解析存储为ASCII Hex值的二进制数据。我遇到的问题是将浮点数转换为字符串。在这种情况下，数字是14.25，并且......

c# floating-point

回答 1 投票 -1

有人可以解释一下Pandas bin的精度吗？

所以我有大量的数据要分箱，看起来有点......慢？我做了一个最小的例子，它模拟了一个较小子集的数据点和计算箱的数量：import ...

python python-2.7 pandas floating-point

回答 1 投票 1

0.0 / 0.0是一个定义明确的值吗？

由于0.0 / 0.0在数学上未定义，因此IEEE-754浮点标准合理地将NaN定义为其结果。现在，因为与无穷大不同，NaN不是一个明确定义的值，而是一组......

floating-point language-agnostic nan ieee-754 numerical-computing

回答 2 投票 -1

在C中除以整数将值向下舍入/结果为零

我正在尝试对整数进行一些算术运算。问题是当我试图进行除法得到双倍的结果时，结果总是0.00000000000000000000，即使这显然不是......

c floating-point precision floating-accuracy

回答 4 投票 0

Python：解析由文本表示的长双数组非常慢

我会删除这个问题，因为事实证明这是我的错误。我遇到的瓶颈与网络延迟有关。我有一个Python应用程序，它作为输入获得一个包含4096真实的文本文件...

python floating-point

回答 2 投票 1

ValueError：无法将字符串转换为float：'“”'

我有一些值是csv文件和在csv文件中一些值是数字，一些是字符串数字。 csv文件示例：1，“1151226468812.22”，100,1,467,999.00,999.95,15,1,999.00,999.95,998.50,999.95，...

python string csv floating-point integer

回答 4 投票 2

在C中将字节重新解释为float（IEEE 754单精度二进制）

我想在C中重新解释4个字节作为IEEE 754单精度二进制文件。为了获得表示float的字节，我使用了：num = *（uint32_t *）＆MyFloatNumber; aux [0] = num＆0xFF; aux [1] =（...

c floating-point byte code-composer single-precision

回答 1 投票 -1

python保持十进制与字符串完全一样

我是Python的新手，我有一个小数问题，几个小时都无法弄清楚如何解决它。基本上我想用pandas读取CSV文件，并保持小数点完全按照它们...

python pandas floating-point type-conversion decimal

回答 2 投票 0

为什么math.log接受大整数值？

从math import log，sqrt import sys n = 760 ** 890 print（log（n））我得到一个有效的结果。现在按sqrt更改日志然后得到（正如预期的那样）：OverflowError：int太大而无法转换为float所以我......

python floating-point logarithm

回答 2 投票 3

浮动到双倍（IEEE754）转换

我试图在x86架构上将32位浮点数转换为64位双asm。转换是由asm编写的函数完成的，然后我想从C调用它。我不知道我做错了什么，...

c assembly floating-point x86

回答 2 投票 0

TypeError：'numpy.float64'对象不可调用，为什么？

为什么我收到此错误？错误似乎在调用'for i in range'的行中，但我不明白为什么这会是一个错误...我已经退出内核以防万一隐藏在i中。我的代码......

python numpy floating-point int

回答 1 投票 0

为什么Java中的-Infinity + Infinity的平方根？ [重复]

我尝试了两种不同的方法来在Java中找到平方根：Math.sqrt（Double.NEGATIVE_INFINITY）; // NaN Math.pow（Double.NEGATIVE_INFINITY，0.5）; //无限为什么不是第二种方式回归......

java math floating-point ieee-754

回答 2 投票 35

如果数字大于或等于772000000000000，为什么我的python代码会产生无限循环？

我有一个代码，应该产生你需要在一年内支付余额的最低月付款。它适用于所有数字，直到（据我测试过）...

python python-3.x while-loop floating-point edx

回答 1 投票 2

要求失败，浮点数

private void waveformProgress（double currentProgressPercentage）{if（currentProgressPercentage <0.0f）currentProgressPercentage = 0.0f; if（currentProgressPercentage> 1.0f）...

java floating-point kotlin

回答 1 投票 2

用bash中的变量划分多个数字

如果用户输入圆周，我需要计算圆的面积。这就是我所拥有的，但它不起作用：让radius = $ circumference /（2 * 3.1415）并让area = 3.1415 * $ radius * $ radius

bash floating-point integer

回答 1 投票 1

浮点除法的软件实现，舍入问题

作为一个学习项目，我使用c ++在软件中实现浮点运算（add，sub，mul，div）。目标是更加熟悉浮点行为的底层细节。 ...

c++ algorithm floating-point

回答 1 投票 9

获取最低有效数字，包括其在JavaScript中的值

我想从JavaScript中的数字中提取最低有效数字，包括其值（以便不丢失任何信息）例如12.0123323 - > 0.0000003 123299000 - > 9000 123001 - > ...

javascript floating-point numbers

回答 3 投票 2

最新问题

© www.soinside.com 2019 - 2024. All rights reserved.