precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

我在以下代码示例中遇到数字错误： #包括 #包括 #包括主函数() { std::random_device rd; std::mt199...

c++ c++20 precision numeric numerical-methods

回答 0 投票 0

LocalDateTime.now() 在 Windows 和 Mac 机器上具有不同级别的精度

在我的 Mac 和 Windows 机器上使用 LocalDateTime.now() 创建新的 LocalDateTime 时，我在 Mac 上获得的纳米精度为 6，在我的 Windows 机器上获得的纳米精度为 3。两者都在运行 jdk...

java precision java-time platform

回答 4 投票 0

Mysql useServerPrepStmts影响查询浮点值的精度

最近在我们的应用程序中，出于各种原因，我们不得不将 Mysql 连接参数 useServerPrepStmts 从 true 更改为 false。更改后，我们发现，这开始影响精度...

mysql precision

回答 0 投票 0

如何在 DolphinDB 中对浮点值进行精确舍入？

我想用round函数对一个float进行四舍五入，但是结果不是我想要的。例如，round(17.955, 2) 的结果是 17.95 而不是 17.96。要获得后一个，我必须添加 0.0001 ....

rounding precision floating-accuracy dolphindb

回答 0 投票 0

检查 Numpy 浮点数组中的 2D 坐标

我有两个 (x,y) 坐标的 Numpy 数组。我想找到第一个数组中不在第二个数组中的所有点。坐标是浮点数。他们应该有几个数字......

python numpy floating-point precision

回答 0 投票 0

找到数字已“四舍五入到最接近的 X”的值 X

估计最近舍入的最简单方法是什么，我们知道舍入总是例如100、10、1、0.1 等。我们不一定知道原始数字。 8 => 1 // 我们

javascript math rounding precision

回答 3 投票 0

如何估计数字的舍入[关闭]

估计最近舍入的最简单方法是什么，我们知道舍入总是例如100、10、1、0.1 等 8 => 1 88 => 1 80 => 10 4530 => 10 4000 ...

javascript math rounding precision

回答 0 投票 0

recall 和precision 被看作函数，我需要将它们转换成R 中的metric 类

我试图运行这个函数，但出现错误（指标混合） metrics_set <- metric_set(accuracy, precision, recall, f_meas), need to convert precision to metric (now its class is

r precision metrics

回答 0 投票 0

我通常如何估计使用浮点数在程序中计算引入的错误的相关性

我目前正在更深入地了解使用浮点数时的表示错误。我理解一些十进制数不能用浮点数精确表示的事实。我...

floating-point precision

回答 1 投票 0

第 4 类和第 5 类精度值较低的多类分类问题

我有分类数据集。在 sata 数据集中有 5 个分类，即 1、2、3、4 和 5。我对机器学习（随机森林分类器）进行建模以创建分类模型。呵呵……

machine-learning classification precision random-forest multilabel-classification

回答 0 投票 0

在QR算法中无法获得适当的特征向量？

使用 QR 算法，我试图用标量 B 为 N*N 大小的矩阵获取 A**B N=2, B=5, A = [[1,2][3,4]] 我得到了正确的 Q、R 矩阵和特征值，但得到了奇怪的特征向量实施...

python-3.x precision linear-algebra eigenvalue eigenvector

回答 0 投票 0

C-浮点精度

我有一个程序：主函数() { 浮动 f = 0.0f；诠释我; 对于（我= 0；我< 10 ; i++) f = f + 0.1f; if (f == 1.0f) printf...

c floating-point precision

回答 4 投票 0

为什么MinGW-w64浮点精度依赖于winpthreads版本？

我使用 MinGW-w64 g++ 编译器 10.2 和 10.3。我自己使用 https://github.com/niXman/mingw-builds 构建了两者。 Windows 上的 g++ 有一个奇怪的地方：应用程序的主线程将...

c++ g++ pthreads precision mingw-w64

回答 3 投票 0

How to get exact extremely p-value in R (on log scale or otherwise) [关闭]

我在 R 中运行线性回归模型，关联非常显着——P 值远低于标准 2.2e-16。回归的 t 统计量为 -44.85 和降级...

r floating-point regression precision numeric

回答 1 投票 0

与 GMAT（通用任务分析工具）相比，重力扰动状态传播的 C++ 代码显示错误

使用 Runge kutta 7 (8) 方法开发了引力摄动模型和传播模型。该模型使用 EGM96 模型的非标准化系数。与 GMAT 相比，它显示错误...

c++ math compiler-errors precision gravity

回答 0 投票 0

现在是否有 64 位处理器可以例行公事地处理 denorms，没有异常或中断？

标题说明了一切。如果有处理器的 FPU 不处理异常并导致异常，我很想知道谁是害群之马，谁是白羊。我的应用程序兴趣...

floating-point precision ieee-754

回答 0 投票 0

用非常小的数字计算反正切

我需要非常精确地计算反正切值。有问题的等式是 -atanh(1/ (1 + 10**-x)) 其中 x 应该是 240 的数量级并返回 -276.65 的近似值。我试过了……

python math precision

回答 1 投票 0

浮点数除以整数除法提高了精度但不明白为什么

我正在查看 C 应用程序代码，发现整数除法的浮点数提高了精度，但我不明白为什么。例如。将浮点数 12926.0 除以整数 100 ...

c floating-point precision

回答 0 投票 0

如果 y=1/x 其中 x,y 可以用浮点数表示而不四舍五入，并且 MIN_VALUE<=x,y,z,z*y<=MAX_VALUE, is z*y==z/x always true?

我正在查看一些代码，发现有些部分使用 num/2，而其他部分使用 num * 0.5。这启发了我一个问题：在 MIN_VALUE 和 MAX_VALUE 的范围内，num/2 和 num*0.5 可以互换吗？...

javascript floating-point precision

回答 1 投票 0

如何强制 perl 以与其他数字相同的格式打印小数字？

我真的需要这个解决方法来保持数字输出格式吗在 perl 中改变小数字？对于 ( 77777, 10, -15, 132, 66, 444.33, 0.0002) { 我的 $x = $_ / 1000 / 1000； $x =

perl printf precision

回答 2 投票 0

precision 相关问题

最新问题