precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

使用2“浮动”模拟“双”

我正在编写一个只支持32位单精度浮点运算的嵌入式硬件程序。但是，我实现的算法需要64位双精度...

c++ c algorithm floating-point precision

回答 8 投票 56

C：while循环使用浮点永远不会终止[重复]

通过执行此代码：float f = 1.0;而（f！= 0.0）{f = f - 0.1; printf（“％。1f \ n”，f）;预计会运行10次并停止，但事实证明它不可避免地......

c floating-point precision

回答 4 投票 3

Python pandas使用lambda添加精度

我试图使用以下代码找到数据字段的精度fieldStructure.loc [fieldName，'Precision'] = df [fieldName] .apply（lambda x：len（str.split（str（x），“。”））[1]））。max（）然而它......

python lambda precision series

回答 1 投票 0

ASP .net C＃Decimal与Java Double之间的舍入不匹配

我正在将.NET代码转换为Java并遇到精度不匹配的问题。 .NET代码：private decimal roundToPrecision（十进制数，十进制roundPrecision）{if（roundPrecision == 0）...

java c# .net rounding precision

回答 2 投票 11

Swift Playgrounds：当在内置变量查看器中显示时，浮动总是呈圆形

使用Swift Playgrounds我正在尝试一些数学问题，特别是使用pow函数。如果我要执行以下操作：var x：Float = powf（0.2,2）它返回0.04作为答案为......

swift precision swift-playground

回答 1 投票 0

Fasttext中的精确度和召回率

我是Fasttext的新手。我已经有一些关于这个库的问题，对某些人来说它们看起来很明显，但我真的想要得到正确的直觉。非常感谢您的帮助。首先......

precision text-classification precision-recall fasttext

回答 2 投票 1

如何检索精确位置/ RW /坐标的交通流信息

给定一个坐标/ RW /位置，我正在尝试检索关于我最感兴趣的JF（Jam Factor）和FF（Free Flow Speed）的位置的交通流信息。事情就是我...

precision here-api flow traffic

回答 2 投票 0

熊猫与numpy的不同std

大熊猫和numpy之间的标准偏差不同。为什么和哪一个是正确的？（相对差异是3.5％，这不应该来自四舍五入，这在我看来很高）。 ...

python numpy pandas precision

回答 2 投票 23

工作精度如何在Javascript中浮动数字？

大家好我正在研究关于天文计算的javascript文件，所以我需要更多的精确度。我对每一行都有很多操作，我想要更精确的结果（也是十或二十...

javascript floating-point precision floating-accuracy

回答 2 投票 1

如何加总双打次数？

我怎么能加倍双打？我认为sum会开箱即用，当我只是使用类型推断它确实似乎，但是当我给出一个类型签名修复输出类型为Double的总和...

haskell double precision

回答 1 投票 1

如何在使用Pandas读取CSV时删除.0

我有一个CSV文件即时读入pandas数据帧。所有数字都没有任何小数位，但是一旦我将它读入dframe，它就会在带有小数的数字上加上一个尾随零。 1205 ......

pandas csv decimal precision

回答 1 投票 0

如何在Python中正确处理浮点运算？

如何使用浮动正确添加或减去？例如，如何执行：2.4e-07 - 1e-8，使其返回2.3e-7而不是2.2999999999999997e-07。转换为int首先产生意外...

python python-3.x floating-point precision floating-accuracy

回答 3 投票 1

具有浮点的c ++程序的输出是否可预测？ [重复]

我的C ++程序计算一些浮点数x并打印出来：cout << x;对我来说重要的是所有计算机的输出都是相同的。由于“所有”非常广泛，让我们关注......

c++ floating-point cross-platform precision

回答 1 投票 1

如何控制reportlab表中的浮点数精度？

我正在使用带有Python 3.7的reportlab创建一个表。我想知道是否有办法改变浮点数十进制精度。例如，现在一个单元格中的浮点数是4.33333333。我想要 ...

python numbers precision reportlab

回答 1 投票 0

PostgreSQL：当将一个整数转换为非整数类型以强制PostgreSQL中的浮点除法时，我应该使用哪种数字类型？

我知道StackOverflow上有很多整数除法问题，但我没有看到这个问题。与许多编程语言类似，如果两个操作数都是......，PostgreSQL会执行整数除法。

postgresql casting integer precision division

回答 1 投票 1

为什么psql返回float4数字只有3位小数

我正在使用psql与postgresql数据库进行交互，我执行了我的查询选择纬度，经度来自myschema.mytable，经度限制为10;输出纬度|经度---------...

database postgresql floating-point precision psql

回答 1 投票 0

exp / log函数的复数计算在MSVC和G ++之间差异很大

对于将某些坐标转换为GPS格式，我使用的是复数（std :: complex）。该算法必须由MSVC（2015）和g ++（7.3.0）编译。我的偏差很大......

visual-c++ g++ precision complex-numbers

回答 1 投票 1

PostgreSQL：设置数据类型Double的默认值时出错

我正在使用整数数据类型的列，我想将其更改为DOUBLE PRECISION，默认值为0.0。 ALTER TABLE public.agents ALTER COLUMN total_number_of_points TYPE DOUBLE ...

postgresql precision default-value alter-table

回答 1 投票 0

如何在float32而不是float64上强制执行python float操作

我想在float32而不是float64上做一些数学浮点运算（+， - ，x，/）。我需要对number或numpy.array执行这些操作。还有一些numpy的数学函数，比如sqrt意思

python numpy floating-point operators precision

回答 1 投票 2

如何在PHP中基本转换大/高精度浮点数？

作为一个问题的通用，我似乎很难学习如何使用BCMath在PHP中基本转换大型高精度浮点值。我想基地-...

php floating-point precision base-conversion bcmath

回答 1 投票 0

precision 相关问题

最新问题