precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

C++ 中算术运算和转换的机器值

我是 C++ 编程新手。我想知道 C++ 中以下简单操作的结果会获得什么可能的机器值：整数a = 3; 双 inv_a； inv_a = (双) 1 / (双...

c++ floating-point precision

回答 1 投票 0

C/C++ 中算术运算和转换的机器值

我是 C/C++ 编程新手。我想知道 C/C++ 中以下简单操作的结果会获得什么可能的机器值：整数a = 3; 双 inv_a； inv_a = (双) 1 / (d...

c++ c floating-point precision

回答 1 投票 0

我可以使用 Double.compare() 或 double.equals(otherDouble) 来比较 Java 中的两个 Double 对象吗？

我的机器环境是Mac M1，我使用的是JDK版本'1.8.0_332'。我有一个如下的@Test方法，其输出如下。我想知道为什么 Double 和 Float 在精度上有差异...

java double precision

回答 1 投票 0

C# IEEE754 舍入

考虑以下 C# 代码... 双 x = Math.Round(72.6d, 2, MidpointRounding.ToZero); 双 y = Math.Round(82.6d, 2, MidpointRounding.ToZero); x 变为 72.59，y 变为 82.6。但为什么？格...

c# double precision ieee-754

回答 1 投票 0

pytorch 中的机器精度是多少？何时应该使用双倍？

我正在对合成数据进行实验（例如拟合正弦曲线），并且我在 pytorch 中得到的错误非常小。 1 约为 2.00e-7。我正在阅读有关机器精度的内容，它似乎...

floating-point pytorch precision

回答 1 投票 0

确定 MariaDB 中十进制数据类型列所需的精度和小数位数

我有大量的 MariaDB 10.6 表，其中有几个十进制（P，D）列和数百万行。这些列的精度（P）和规模（D）一度被设置为不切实际的高水平，只是

mariadb decimal precision

回答 1 投票 0

将 .NET 对象序列化为 JSON：`double` 属性值被写入为带有额外小数位的不同值

我正在使用 System.Text.Json 在 .NET Well 类对象和 JSON 之间进行（反）序列化。 Well 类对象有一个层列表 List 层，Layer 类有一个 Items Lis 列表...

.net serialization double precision system.text.json

回答 1 投票 0

使用 anovaVCA() 函数时出现数据帧错误

我正在尝试使用“VCA”库中的 VCA() 函数运行双向方差分析。我运行此分析的数据框（名为“结果”）是：集团|船/船 |准备|结果...

r precision anova

回答 1 投票 0

使用 set precision() 没有精度的整数值

我这里有一个程序，可以使用级数来近似pi的值，并且需要它以一定的精度输出pi，我选择了16位。然而，当我输入0进行求和时，它

c++ precision pi

回答 1 投票 0

调整小数精度，.net

C# 中的这些行小数 a = 2m；小数 b = 2.0m；十进制 c = 2.00000000m；十进制 d = 2.000000000000000000000000000m； Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); 控制台。

.net decimal precision

回答 8 投票 0

Java 中的零等于运算符（BigDecimal / Double）

关于 0 和 0.0 的等于运算符的一些有趣的观察 new Double(0.0).equals(0) 返回 false，而 new Double(0.0).equals(0.0) 返回 true。 BigDecimal.ZERO.equals(BigDecimal.valueOf...

java double precision bigdecimal zero

回答 7 投票 0

如何计算转换规范%.*f的精度以保持浮点值的精度？

注意：这个问题源自这个答案。如何计算转换规范 %.*f 的精度以保持浮点值的精度？注意：这里的“保持精度&qu...

c floating-point printf precision

回答 1 投票 0

如何在给定边长平方的情况下准确计算三角形的角度？

给定三角形边长的平方a、b、c > 0，我们如何准确计算内角？卡汉经常引用的方法仔细地重新排列括号假设（未平方...

floating-point geometry precision angle single-precision

回答 1 投票 0

Redshift：数值数据溢出（结果精度）

您好，我有一个 Redshift DB，正在尝试将表“scans”/列“net_rate”（数据类型数字）中的数据插入另一个表“visits_by_scan”/列“

sql casting amazon-redshift precision

回答 1 投票 0

为什么显式整数转换没有按预期应用

请注意，我的问题不是“为什么浮点数会失去精度”，我知道并非数字的所有小数部分都可以采用二进制形式。真正存储的是实际...

c floating-point double precision floating-accuracy

回答 1 投票 0

为什么整数截断在这种情况下不适用？

请注意，我的问题不是“为什么浮点数会失去精度”，我知道并非数字的所有小数部分都可以采用二进制形式。鉴于： //这只是一次考试...

c floating-point double precision floating-accuracy

回答 1 投票 0

A) 已详尽讨论的主题 - double 和 float 之间的精度。 B)需要一些生活和学习方面的建议

A 部分）大家好，我是CS一年级学生。在早期的测验中，有一些花车是双打的。我在提交后发布此内容。所以我认为我没问题，实际上我希望没人关心。漂浮...

c floating-point double precision floating-accuracy

回答 1 投票 0

为什么 Javascript 的 `parseFloat` 在截断过大的数字时返回的值与 Java 的 `java.lang.Double.parseDouble` 不同？

Javascript： > parseFloat("738529527931269425") 738529527931269400 爪哇： @ java.lang.Double.parseDouble("738529527931269425") res4：双精度 = 7.3852952793126938E17 @（长）java。

javascript java floating-point rounding precision

回答 1 投票 0

如何根据 mpfr_get_prec() 返回的值计算 DECIMAL_DIG？

上下文：C标准有xxx_DECIMAL_DIG宏，可以在printf中使用它来保持浮点值的精度。双的示例： printf("%.*g “，DBL_DECIMAL_DIG，x）；阿丝...

floating-point precision mpfr

回答 1 投票 0

stof、stoi、stod 与提取器操作员

我想知道现代 C++ 中最推荐哪种方式将字符串转换为数字。双精度型、浮点型或整数型。我遇到了 C++11 stof，但我一直在使用提取器

c++ performance type-conversion precision

回答 1 投票 0

precision 相关问题

最新问题