precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

python 中的轻微舍入错误

在此处输入图像描述我正在根据自动分级机检查我的代码，我遇到了这个。这是我的所有代码： def zeros(n, m = 0): 如果米 == 0：米 = ñ “”“创建...

python precision rounding-error

回答 0 投票 0

在 perl 中打印 .00001 的解决方法

我有这个程序：我的 $d = 40000 * 100 / 360；打印“在赤道 "; printf "%9s° = %10.3f 米 ", 10**-$_, 10**-$_ * $d 代表 0 .. 7; 它输出在赤道 1°...

perl printf precision

回答 1 投票 0

Reverse/Inverse Change Currency Rate Calculation Issue [关闭]

在我的 SQL Server 数据库中，我有列 rate-changed-by-cashier，它以 Decimal(30,10) 类型存储数据。我将此值存储为 1/cahier-input。例如，如果收银员输入 1310 它将是 ...

sql sql-server precision

回答 0 投票 0

保持整数的精度，作为双精度传递

我有一项服务可以从外部世界接收双打。我确定所有双打小数点后只有 4 位数字。为了保持精度，我想将传入的双精度数转换为整数，...

java algorithm floating-point double precision

回答 1 投票 0

Haskell 中除 Double 值时的精度问题

我正在尝试在 Haskell 中连续将双精度浮点数 (Double) 除以 2.0 一百次。当我得到值 5960464477539.06250 时，将此值除以 2.00000 再...

haskell precision division

回答 2 投票 0

如何在 python 中对 numpy 向量强制量化（降低位精度）？

我正在尝试研究如何降低 python 中 numpy 向量的精度或对数据而不是神经网络执行量化。我的目标是植入一个量化机制（红色...

python numpy floating-point precision quantization

回答 0 投票 0

检查两个列表是否相同直到数值错误

我有两种算法，理论上应该执行相同的任务，我想检查它们是否确实如此。他们每个人都返回一个包含混合数据类型的大列表（数字，列表，strin ...

python list precision

回答 2 投票 0

浮点系统中的二次公式

假设我们正在求解二次方程 ax2 + bx + c = 0，其中 a = 1.22、b = 3.34 和 c = 2.28，使用基数 β = 10 和精度 p = 3 的归一化浮点系统。 (a) 什么是

floating-point precision

回答 1 投票 0

Java：将浮点数转换为双保留小数点精度

我有一个基于浮点数的小数存储。 float 的精度可以满足我的需要。现在我想使用 double 对这些数字执行一些更精确的计算。一个

java floating-point decimal precision floating-point-conversion

回答 3 投票 0

如何在 PyTorch 中准确计算高 Lp 范数

我正在使用 torch.norm 计算具有相对较大 p 值（在 10-50 范围内）的 Lp 范数。我这样做的向量具有相对较小的值，我注意到结果不正确

python precision linear-algebra torch magnitude

回答 0 投票 0

为什么 dpes 这段代码打印“False”？为什么它不打印“True”？ [重复]

当我运行这段代码时，它会打印出 False。我不清楚 #包括主函数() { 浮动 f = 0.1；如果（f == 0.1） printf("真"); 电子...

c floating-point precision

回答 1 投票 0

为什么这段代码打印“False”？为什么不打印“真”？

当我运行这段代码时，它会打印出 False。我不清楚 #包括主函数() { 浮动 f = 0.1；如果（f == 0.1） printf("真"); 电子...

c precision

回答 1 投票 0

如何在没有 number_format() 的情况下为 php 中的“echo”设置更多 12 位浮点精度？

PHP代码： $val1 = 32; $val2 = 0.00012207031255； $res = $val1 - $val2; 回声“回声：”。$ res。 "; echo "json: ".json_encode($res)." "; 回声“形式：”。

php precision

回答 3 投票 0

JavaScript 中的货币转换和浮点精度

由于 JavaScript 有其与浮点数的怪癖（例如 0.1+0.2 > 0.3 和类似的除法），如何处理货币转换？通常货币兑换率是浮动的，从 6 到...

javascript precision currency floating-accuracy

回答 0 投票 0

如何在 Python 中使用 Hyperopt 为目标中的每个类而不是为整个多类分类模型最大化精度？

我尝试在 Python 中构建多类分类机器学习模型。我使用 Hyperopt 来调整我的超参数，如下所示： 1.定义优化参数空间空间= { “n_estim ...

python machine-learning precision multiclass-classification hyperopt

回答 0 投票 0

C++ 中 int 和 double 类型之间的不同舍入？

图片我很好奇仅仅因为不同的数据类型就得到不同的答案。如果它有双精度问题，但为什么双精度类型“size2”返回正确答案？ (12 000 ...

c++11 integer double rounding precision

回答 0 投票 0

这个表情可以吗

我正在使用 Julia，但我确信解决方案将主要翻译成不同的语言。我想针对 $T$ 的正值以 Float64 精度计算以下表达式。一个...

precision numerical-methods

回答 1 投票 0

使用 AVX2 内在函数的单精度 3D 矢量点积累积中的不稳定误差

来自这里。我写了一个函数，它在 3D 向量矩阵上运行，计算每个迭代点表示的蓝色十字表示的向量之间的差异...

floating-point vectorization precision intrinsics avx2

回答 0 投票 0

如何使用 BigDecimal 显示始终保留 2 个小数点的数字？

我正在使用 BigDecimal 来获取一些价格值。要求是这样的，无论我们从数据库中获取什么值，显示的值都应该有 2 个小数点。例如：拿来了……

java precision bigdecimal decimal-point

回答 7 投票 0

JavaScript.Tree.toPrecision() 修剪.toPrecision()尾部的零。

我正在使用JavaScript创建一个在线计算器。我有这样的计算方法：eval(expression).toPrecision(10); 这几乎在所有情况下都能产生正确的输出。例如，eval('456456+...)

javascript math precision

回答 3 投票 4

precision 相关问题

最新问题