precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

如何在 MATLAB 中实现四倍精度（128 位算术），同时求解矩阵特征值问题？我正在尝试解决不可压缩平面 C 的线性稳定性分析问题...

matlab floating-point precision

回答 3 投票 0

时间戳分辨率

我需要将时间戳类型设置为主键（在每种情况下它必须是唯一的，某些指令可以一次插入k条记录），默认值为“current_timestamp”。它是一种日志文件。为了...

postgresql timestamp precision

回答 2 投票 0

在 numpy 中对 ndarray 求和同时最小化浮点不准确的最有效方法是什么？

我有一个大矩阵，其值的数量级变化很大。为了尽可能准确地计算总和，我的方法是将 ndarray 重塑为一维数组，排序...

python numpy precision

回答 2 投票 0

什么是差、不错、好和优秀的 F1 测量范围？

我理解 F1 测量是精度和召回率的调和平均值。但是什么值定义了 F1 度量的好坏呢？我似乎找不到任何参考文献（谷歌或学术）来回答我的问题。

performance machine-learning precision measurement precision-recall

回答 2 投票 0

将-0.67浮点改为定点

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

floating-point precision fixed-point

回答 2 投票 0

以最高精度将数字格式化为 8 或 16 个字符（不含“e”）

我有以下python程序。输入是任何数字（来自计算）和格式，其中格式可以是“长”或“短” 我想做的事：如果格式很短，我希望输出是...

python formatting numbers rounding precision

回答 1 投票 0

在c++中没有**std::fixed**的**std::set precision()**有什么作用？

如教程http://www.cplusplus.com/reference/iomanip/set precision/所示 // 设置精度示例 #include // std::cout、std::fixed #include // std::

c++ c++11 stl precision iomanip

回答 4 投票 0

std::cos 使用 valgrind 运行时给出不同的结果

我发现了一个影响我工作中的多个单元测试的问题，这种情况仅在使用 valgrind 运行单元测试时才会发生，因为从 std::cos 和 std::sin 返回的值对于

c++ floating-point precision valgrind c++-standard-library

回答 1 投票 0

如何提高DMX控制Python脚本的计时精度

我有一个Python脚本，可以通过OLA库控制DMX灯光。该脚本从 CSV 文件中读取颜色值，并以 120 毫秒的固定时间间隔将它们发送到 DMX 控制器。我正在利用时间。

python tags precision timing

回答 2 投票 0

GridSearchCV 中计算哪个类的精度和召回率？

我正在 XGBoost 模型上运行 GridSearchCV 来调整一些参数。我的目标变量是二进制的。当我在交叉验证期间使用“召回率”或“精度”作为评分指标时，我得到一个

machine-learning scikit-learn precision xgboost gridsearchcv

回答 1 投票 0

PHP 舍入浮点数

我正在开发一个系统，我需要四舍五入到最接近的便士财务付款。我天真地以为我会乘以 100，发言，然后再除以。然而以下...

php precision

回答 5 投票 0

Oracle 中 NUMBER 数据类型的真正限制是什么？

我需要帮助来理解 NUMBER 数据类型，因为 Oracle 文档中的以下 2 个语句对我来说似乎是互斥的。 “NUMBER 数据类型存储零以及正数...

sql oracle numbers precision numeric

回答 1 投票 0

将最大整数转换为浮点数而不损失精度

我有一个以下代码片段，我用它来尝试测试如果将最大整数转换为双精度数是否会发生精度损失： #包括 #包括 #包括<

c++ floating-point precision

回答 1 投票 0

我们如何用定点和浮点二进制表示法来表示-0.67？

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

verilog precision fixed-point fixpoint-combinators

回答 1 投票 0

awk 与小于 1.7e-308 的数字比较

以下命令回声 1.8e-308 |呆呆'$1<0.05' produce no output, while this one gawk 'BEGIN{if(8.2547e-309<0.05){print "true"}}' print "true". This answer explain why the first co...

awk precision

回答 2 投票 0

imshow 绘制非常大的整数，但“dtype 对象无法转换为浮点数”

我有以下代码，在网格上绘制一个函数，其中该函数恰好有一个非常大的整数值：将 matplotlib.pyplot 导入为 plt 从 matplotlib.ticker 导入 ScalarFormatter，

python matplotlib precision floating-accuracy imshow

回答 2 投票 0

Python plt.imshow() 绘制非常大的整数，但“dtype 对象无法转换为浮点数”

我有以下代码，在网格上绘制一个函数，其中该函数恰好有一个非常大的整数值：将 matplotlib.pyplot 导入为 plt 从 matplotlib.ticker 导入 ScalarFormatter，

python matplotlib precision floating-accuracy arbitrary-precision

回答 2 投票 0

float8、float16、float32、float64 和 float128 可以包含多少位？

Numpy 的 dtype 文档仅显示每种浮点类型的“x 位指数，y 位尾数”，但我无法将其转换为小数点之前/之后的确切位数。是...

python numpy floating-point precision

回答 2 投票 0

C++中的N体模拟具有很大的动量守恒和巨大的能量偏差

我正在使用 Verlet 积分（更具体地说，是 Verlet 积分维基百科页面“非常量时间差”部分中的最后一个方程），以及 C++ 和 Eigen 库...

c++ precision game-physics numerical-methods verlet-integration

回答 1 投票 0

在 Python 中比较浮点数时遇到问题

我知道这应该更容易，但我在比较浮点值时遇到问题。我有一些非常基本的代码，可以做一些事情：任何低于 5 的重量都会添加到 light_pkgs 中。任何重量...

python math precision

回答 1 投票 0

最新问题

© www.soinside.com 2019 - 2024. All rights reserved.