precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

std::chrono 有多准确？

std::chrono 宣称它可以报告低至纳秒级别的结果。在典型的 x86_64 Linux 或 Windows 计算机上，人们期望该值的准确度如何？误差线是什么...

c++ time precision c++-chrono

回答 4 投票 0

在arangodb中如何保存带有尾随零的小数以保持值的精度

因此，如果用户输入 12.00000，我需要在本例中保存尾随零 5。我正在评估 arangodb。但目前还没有这方面的明确信息。我会在 Java 中使用 BigDecimal 来处理...

decimal precision arangodb

回答 1 投票 0

基于浮点值的可变精度Python浮点格式

我希望这个标题不会让人们失望，因为据我所知，这不是重复的。情况：我有一个数字 0 .. x .. 1，它可能非常小，所以 1 >> n （例如 0.00001321）。

python python-3.x floating-point precision

回答 3 投票 0

Logstash 8.0 @timestamp 具有纳秒精度

我需要帮助来了解如何使用另一个包含纳秒精度的日期和时间的字段的内容来设置 @timestamp 字段。我尝试过使用日期匹配，但它不是 c...

timestamp logstash precision

回答 3 投票 0

如何在 C++ 中将双精度数转换为具有舍入精度的浮点数

问题是将双精度数转换为具有舍入精度的浮点数。是否可以将 double(0.4999997615814209) 等值转换为 float(0.5f) 而不是 float(0.499999f) ？但是双倍（0.4999）...

c++ floating-point double precision

回答 1 投票 0

如何将浮点数精确转换为字符串？ Arduino C++

我有一个像 3.14159 这样的数字，我希望它是 3.1 由于某种原因，Arduino 对库非常挑剔。目前我无法使用字符串库。

c++ arduino floating-point precision arduino-c++

回答 2 投票 0

如何在C中安全地进行浮点运算

最近 (C23) 添加的 stdckdint.h 提供了一种可移植的方法来检查整数算术中的溢出问题。我过去在整数的情况下使用过类似的编译器扩展......

c floating-point precision ieee-754

回答 1 投票 0

Matlab 日志与 Numpy np.log 不匹配

在将旧的 Matlab 代码重写为 NumPy 时，我注意到对数计算方面的差异。在NumPy中，我使用np.log，Matlab使用log函数。 b = [1 1 2 3 5 1 1]; p = b ./ sum(b); sprintf('日志(%...

numpy matlab precision numeric logarithm

回答 1 投票 0

PHP 5、PHP 7 中的数学运算精度

在 PHP 5+ 中开发计算器时，程序员是否可以在不考虑舍入错误和小数表示不精确的情况下得到结果？我的意思是内置完美的方式来获取，例如......

php math precision

回答 2 投票 0

高精度绘图 Julia

我需要绘制一个向量来检查时间步后的平滑度。我使用 BigFloats 进行计算，因为我需要大约 30 位有效数字的精度。然而，当我绘制曲线时，它...

plot julia precision bigfloat

回答 1 投票 0

MATLAB 精度

如何在 MATLAB 中实现四倍精度（128 位算术），同时求解矩阵特征值问题？我正在尝试解决不可压缩平面 C 的线性稳定性分析问题...

matlab floating-point precision

回答 3 投票 0

时间戳分辨率

我需要将时间戳类型设置为主键（在每种情况下它必须是唯一的，某些指令可以一次插入k条记录），默认值为“current_timestamp”。它是一种日志文件。为了...

postgresql timestamp precision

回答 2 投票 0

在 numpy 中对 ndarray 求和同时最小化浮点不准确的最有效方法是什么？

我有一个大矩阵，其值的数量级变化很大。为了尽可能准确地计算总和，我的方法是将 ndarray 重塑为一维数组，排序...

python numpy precision

回答 2 投票 0

什么是差、不错、好和优秀的 F1 测量范围？

我理解 F1 测量是精度和召回率的调和平均值。但是什么值定义了 F1 度量的好坏呢？我似乎找不到任何参考文献（谷歌或学术）来回答我的问题。

performance machine-learning precision measurement precision-recall

回答 2 投票 0

将-0.67浮点改为定点

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

floating-point precision fixed-point

回答 2 投票 0

以最高精度将数字格式化为 8 或 16 个字符（不含“e”）

我有以下python程序。输入是任何数字（来自计算）和格式，其中格式可以是“长”或“短” 我想做的事：如果格式很短，我希望输出是...

python formatting numbers rounding precision

回答 1 投票 0

在c++中没有**std::fixed**的**std::set precision()**有什么作用？

如教程http://www.cplusplus.com/reference/iomanip/set precision/所示 // 设置精度示例 #include // std::cout、std::fixed #include // std::

c++ c++11 stl precision iomanip

回答 4 投票 0

std::cos 使用 valgrind 运行时给出不同的结果

我发现了一个影响我工作中的多个单元测试的问题，这种情况仅在使用 valgrind 运行单元测试时才会发生，因为从 std::cos 和 std::sin 返回的值对于

c++ floating-point precision valgrind c++-standard-library

回答 1 投票 0

如何提高DMX控制Python脚本的计时精度

我有一个Python脚本，可以通过OLA库控制DMX灯光。该脚本从 CSV 文件中读取颜色值，并以 120 毫秒的固定时间间隔将它们发送到 DMX 控制器。我正在利用时间。

python tags precision timing

回答 2 投票 0

GridSearchCV 中计算哪个类的精度和召回率？

我正在 XGBoost 模型上运行 GridSearchCV 来调整一些参数。我的目标变量是二进制的。当我在交叉验证期间使用“召回率”或“精度”作为评分指标时，我得到一个

machine-learning scikit-learn precision xgboost gridsearchcv

回答 1 投票 0

precision 相关问题

最新问题