floating-accuracy 相关问题

关于对浮点数执行的操作的准确性。

为什么Snowflake上的SQL查询不会出现浮点不准确？

根据Snowflake文档，FLOAT是双精度（64位）IEEE 754浮点数。这是常态。例如，Python也以这种方式实现浮点数，因而受到影响......

sql floating-accuracy snowflake-datawarehouse

回答 1 投票 0

LibreOffice浮点精度

我正在使用浮点数对日期和时间进行计算。但是，我注意到计算值不符合预期。这是代码片段。 Dim sTemp As Single，sLineDateTime As ...

libreoffice floating-accuracy basic

回答 1 投票 0

计算熊猫框架中不同列的混淆矩阵？

我有一个3000行和3列的数据帧，如下所示：0 col1 col2 col3 ID1 1 0 1 Id2 1 1 0 Id3 0 1 1 Id4 2 1 0 ...

python pandas dataframe floating-accuracy confusion-matrix

回答 1 投票 0

在Swift中获取double的小数部分

我试图在swift中分隔double的十进制和整数部分。我尝试了很多方法，但它们都遇到了同样的问题......让x：Double = 1234.5678让n1：Double = x％1.0 ......

swift math floating-accuracy

回答 5 投票 10

lua和javascript之间的不同数字浮点数

lua precision floating-accuracy

回答 1 投票 1

比较浮点值有多危险？

我知道UIKit使用CGFloat是因为分辨率独立坐标系。但每次我想检查例如frame.origin.x是否为0时它让我感到恶心：if（theView.frame.origin.x ...

objective-c ios c floating-point floating-accuracy

回答 10 投票 377

浮点算术中是否满足（1 + sqrt（2））^ 2 = 3 + 2 * sqrt（2）？

在数学中，身份（1 + sqrt（2））^ 2 = 3 + 2 * sqrt（2）成立。但是在浮点（IEEE 754，使用单精度，即32位）计算情况并非如此，因为sqrt（2）没有......

c++ math floating-point precision floating-accuracy

回答 16 投票 2

为什么我的浮动功能不按预期工作？

我的函数priceDifference里面的startShare的if语句最后没有返回计算的浮点数并在控制台中显示它。我的其他功能正常工作......

c function math floating-accuracy

回答 2 投票 0

将decimal值与evaluate进行比较

我的问题很简单。对于所有问题，以下代码应返回true。但问题4及以上返回错误，我的问题是为什么？ 1。

coldfusion coldfusion-9 floating-accuracy

回答 1 投票 0

为什么一些非常接近的浮点数会导致这个Python代码在3.4.x到至少3.6.6版本中出现这种差异？

当我执行这个代码时，它产生算术分歧或不产生非常接近的浮点数，当数字为2时，n-p / q可以产生可接受的结果，有时候......

python math floating-accuracy

回答 2 投票 1

工作精度如何在Javascript中浮动数字？

大家好我正在研究关于天文计算的javascript文件，所以我需要更多的精确度。我对每一行都有很多操作，我想要更精确的结果（也是十或二十...

javascript floating-point precision floating-accuracy

回答 2 投票 1

如何在Python中正确处理浮点运算？

如何使用浮动正确添加或减去？例如，如何执行：2.4e-07 - 1e-8，使其返回2.3e-7而不是2.2999999999999997e-07。转换为int首先产生意外...

python python-3.x floating-point precision floating-accuracy

回答 3 投票 1

如何避免具有多列的numpy数组的精确总和

我一直认为，numpy使用了一种成对求和，它确保了float32的高精度 - 操作：导入numpy为np N = 17 * 10 ** 6＃float32-precision不再足够......

python numpy floating-accuracy ieee-754

回答 2 投票 3

比较大数字时的行为不直观

刚刚在Google CodeJam中竞争时发现了一些不直观的行为。输入：pow（10,20）in [pow（10,20）* 1.0]输出：True（ok ...）输入：pow（10,30）in [pow（10,30）* 1.0]输出：False （??? ...

python boolean floating-accuracy largenumber

回答 1 投票 1

python中的负零

我在python的输出中遇到负零;它的创建例如如下：k = 0.0 print（-k）输出为-0.0。但是，当我将-k与0.0进行相等性比较时，它会产生True ....

python floating-point floating-accuracy zero

回答 5 投票 46

PI和浮点数的准确性

Pi的单/双/扩展精度浮点表示精确到小数位数？

floating-point precision floating-accuracy

回答 10 投票 11

如何在序列计算之和中实现最大精度？

我写了一个代码来计算系列的总和2 ^（ - k），但我不知道如何提高这个计算的准确性。这就是我到目前为止所做的。＃包括＃包括

c++ series floating-accuracy

回答 2 投票 -2

matlab相当于numpy allclose？

Numpy的allclose如果两个数组在容差范围内在元素方面相等，则返回True。 Matlab中有没有相应的东西？

matlab floating-point comparison floating-accuracy

回答 1 投票 3

浮点数学是否破碎？

请考虑以下代码：0.1 + 0.2 == 0.3 - > false 0.1 + 0.2 - > 0.30000000000000004为什么会出现这些不准确之处？

math language-agnostic floating-point floating-accuracy

回答 30 投票 2606

精确龙格 - 库塔系数

当使用数值方法（例如Runge-Kutta）时，计算机上浮点数的有限精度会影响解（Brouwer定律）。在本文中，它建议作为一种模拟精确的补救措施......

floating-point precision numerical-methods floating-accuracy

回答 2 投票 1

floating-accuracy 相关问题

最新问题