precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

如何使用牛顿法近似 255/sqrt(x)？

我尝试使用牛顿法近似 255 / sqrt(x) 以避免在架构上使用除法或 sqrt() 操作，因为这些操作的成本很高。我的推导是： y = 255 / 秒...

math precision numeric numerical-methods approximation

回答 1 投票 0

C/C++ 中的 80 位浮点运算

假设 a, b 是 _int64 变量。需要计算高精度80位浮点数的sqrt((long double)a)*sqrt((long double)b)。例子。 (__int64)(sqrt((长双精度)a)*sqrt((长双精度...

c precision

回答 3 投票 0

将字符串转换为浮点数

我想将字符串转换为浮点数 bool numbFloat = float.TryParse(operatorsOperand[0], out float numFloat); System.Console.WriteLine(numFloat); 返回结果；例如：我有一个字符串[0]，...

c# string type-conversion precision

回答 1 投票 0

双精度的 C 精度：依赖于编译器？

在我的 32 位机器（具有 Intel T7700 双核）上，对于 C 语言的 double 和 long double 类型，我都有 15 位精度数字。我比较了 long double 和 DBL_ 的参数 LDBL_DIG...

c precision

回答 5 投票 0

当被丢弃的数字数量不大于 1 时，BigDecimal 舍入模式 HALF_EVEN 不起作用[重复]

当被丢弃的数字不大于 2（非零）时，我无法理解 BigDecimal Roundingmode HALF_EVEN 的行为。根据文档，使用 HALF_EVEN 舍入，当左侧数字时...

java precision bigdecimal

回答 1 投票 0

如何提高 Python DataFrame 中小数点的精度？

我正在用Python开发一个系统，它复制了用LabWindows编写的另一个系统。设计的一部分涉及计算周期图，它返回一个十进制数组。然后我将此数组添加到

python dataframe decimal signal-processing precision

回答 1 投票 0

Python - 尝试计算 pi 的数字，但无法超过小数点后 48 位数字

我正在尝试编写一个程序来使用Python中的Nilakantha系列来计算pi的数字。每次运行它都不会给我超过 50 位小数。还在学习 python 所以他...

python decimal precision pi

回答 2 投票 0

在解释器和脚本中进行Python精确数学计算，无需一直输入十进制模块

我注意到Python中的数学运算不像以前那么精确，尤其是涉及浮点数的运算。我知道这是由于二进制数表示的本质，我们可以得到......

python math decimal precision

回答 2 投票 0

使用 sed 将浮点数格式化为相同精度 - 添加尾随零

是否可以使用 sed 格式化浮点数以扩展到相同的精度，例如小数点后8位？因为这个问题是更大背景的一部分，所以有必要......

bash sed precision

回答 3 投票 0

Bash：使用 sed 将浮点数格式化为同等精度 - 添加尾随零

是否可以使用 sed 格式化浮点数以扩展到相同的精度，例如小数点后8位？因为这个问题是更大背景的一部分，所以有必要......

bash sed precision

回答 1 投票 0

在Python中，你能在只显示两位小数的情况下获得长小数的全部效用吗？

我有一对盒子。一是针对劳动时间。另一个是劳务费。当您输入工时金额时，它会自动计算并填充人工美元框。当您进入分娩状态时

python tkinter floating-point decimal precision

回答 1 投票 0

为什么循环不中断（浮点数精度）

我一直在尽一切努力让它发挥作用。所以基本上我希望程序在点后的数字变化少于 14 位数字后停止。但显然这种情况从未发生过。 #

c floating-point precision

回答 1 投票 0

如何在运算过程中使 Rust 浮点精度与 JavaScript 精度相同？

我目前正在开发一个项目，将 js 代码移植到 Rust。在某些边缘情况下会反复出现问题，其中两个浮点数相加在一起并生成一个证书...

javascript rust floating-point precision

回答 1 投票 0

浮点数转换过程中可能会损失精度

我在 Google 上搜索了如何在 Java 中获取浮点数的 2 位小数。下面是我的代码。最后，这里 float TotalWeight = 0.1*levinWeight+0.8*lsmWeight; 我收到可能会损失精度的错误？我...

java decimal precision

回答 3 投票 0

为什么 -freciprocal-math 在 GCC 中不安全？

-freciprocal-math 更改了以下代码双a = b / c；到双 tmp = 1/c；双a = b * tmp; GCC手册中说这样的优化是不安全的，不粘...

c math gcc optimization precision

回答 2 投票 0

Go 中浮点文字的精度

为什么这些行给出不同的结果？ log.Printf("%v ", (float64(1.0 - 0.94))) // 0.06 log.Printf("%v ", (float64(1.0) - float64(0.94))) // 0.06000000000000005 ...

go floating-point precision

回答 1 投票 0

php 整数 - 当 echo 时显示 2 位小数，如果打印到 CSV 则显示 .0999999

使用 http://www.maatwebsite.nl/laravel-excel/ 导出到 CSV 和 Excel。我有一个 $rows 数组，其中包含所有行及其列。有些列使用 number_format(ro...

php floating-point rounding precision number-formatting

回答 1 投票 0

Python中如何判断一个大整数是否是3的幂？

我试图确定给定的正整数（ N ）是否是 3 的幂，即是否存在一个非负整数（ x ）使得（ 3^x = N ）。挑战在于 (N) 可能非常大，

python algorithm math precision

回答 1 投票 0

手机任何状态下超精准振动器触发

我的 Android 应用程序 (Jetpack Compose) 需要在非常精确的时间触发手机振动器（最大延迟几毫秒）。振动器必须在手机和应用程序的任何状态下触发：手机唤醒...

android kotlin android-jetpack-compose precision ntp

回答 1 投票 0

使用GridSearchCV进行Logistic回归时的精度计算警告

我正在尝试使用 LogisticRegression 估计器运行 GridSearchCV 并记录模型准确性、精度、召回率、f1 指标。但是，我在精度指标上遇到以下错误：精确...

python scikit-learn precision logistic-regression gridsearchcv

回答 2 投票 0

precision 相关问题

最新问题