precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

对于 IEEE 754 浮点数，下溢仍然比溢出更好吗？

在 20 世纪 70 年代的经典著作中，Richard Hamming 建议将浮点计算设置为更容易发生下溢而不是溢出。例如，如果您想计算 1 - 1/(exp(x)...

floating-point precision numeric numerical-methods underflow

回答 1 投票 0

如何使我的数学对于大圆半径更稳定

我有一个函数可以检查两个圆环是否重叠并且对于小圆效果非常好： public static bool Overlaps(在圆circle1中，在float annulus1中，在圆circle2中，在...

c# math geometry precision

回答 1 投票 0

如何制作更精准的滑块控制？

我想制作一个滑块控件，当我按下某个键（比如说shift）时，它的拇指（及其值）将比鼠标拖动得慢，因此变得更加精确。我还是 WPF 新手，我不重新...

c# wpf user-interface user-controls precision

回答 2 投票 0

如何将浮点数转换为字符串，同时保留其所有数字？

我知道由于浮点数以二进制存储的方式，类型转换可能会导致小错误。然而，我确实有将浮点数转换为字符串的用例，但现在我遇到的问题是......

php string casting precision floating

回答 1 投票 0

PostgreSQL 如何舍入双精度数字？

我了解双精度的工作原理（指数、尾数、取决于值的精度，而不是完全准确的数字......），我目前正在写一篇关于这个主题的博客文章。但使用时...

postgresql floating-point precision

回答 2 投票 0

PotgreSQL 如何舍入双精度数字？

我了解双精度的工作原理（指数、尾数、取决于值的精度，而不是完全准确的数字......），我目前正在写一篇关于这个主题的博客文章。但使用时...

postgresql floating-point precision

回答 1 投票 0

BigDecimal、精度和小数位数

我在应用程序中使用 BigDecimal 来表示数字，例如，使用 JPA。我对“精度”和“规模”这两个术语做了一些研究，但我不明白它们到底是什么。可以...

java jpa scale precision bigdecimal

回答 7 投票 0

有人在《一个周末的光线追踪》中遇到过这种剥离神器吗？

我正在尝试将“一个周末的光线追踪”移植到金属计算着色器中。我在我的项目中遇到了这个条带工件：是因为我的随机生成器不能正常工作吗？是否...

random precision raytracing compute-shader

回答 2 投票 0

R 中 for 循环时结果的奇怪差异

上下文的第一部分不是重要的部分，但这里是：因此，我正在尝试为学校项目使用 R 中的 variofit 函数拟合母模型。当尝试使用 fix.kappa == FALSE 时...

r loops for-loop precision geostatistics

回答 1 投票 0

在物化视图中指定数字长度和精度，从枢轴开始

我在Oracle中的物化视图有一个问题：我不知道如何指定数字字段的长度和精度。这是创建物化视图的示例代码： CR...

oracle-database pivot precision numeric materialized-views

回答 1 投票 0

从枢轴开始，在物化视图中指定数字长度和精度

我在Oracle中的物化视图有一个问题：我不知道如何指定数字字段的长度和精度。这是创建物化视图的示例代码： CR...

oracle-database pivot precision numeric materialized-views

回答 1 投票 0

浮点：MAX 和 INF 之间的距离

假设您有一个浮点类型的变量。 32 位或 64 位并不重要。您将最大可表示值分配给变量。典型的编程语言有一个常数...

floating-point precision

回答 1 投票 0

C++ 中 long double 的精度是多少？

有谁知道如何找出特定平台上long double的精度？我似乎在 17 个小数位后失去了精度，这与我只使用 double 时的精度相同。我愿意

c++ precision long-double

回答 3 投票 0

如何使用牛顿法近似 255/sqrt(x)？

我尝试使用牛顿法近似 255 / sqrt(x) 以避免在架构上使用除法或 sqrt() 操作，因为这些操作的成本很高。我的推导是： y = 255 / 秒...

math precision numeric numerical-methods approximation

回答 1 投票 0

C/C++ 中的 80 位浮点运算

假设 a, b 是 _int64 变量。需要计算高精度80位浮点数的sqrt((long double)a)*sqrt((long double)b)。例子。 (__int64)(sqrt((长双精度)a)*sqrt((长双精度...

c precision

回答 3 投票 0

将字符串转换为浮点数

我想将字符串转换为浮点数 bool numbFloat = float.TryParse(operatorsOperand[0], out float numFloat); System.Console.WriteLine(numFloat); 返回结果；例如：我有一个字符串[0]，...

c# string type-conversion precision

回答 1 投票 0

双精度的 C 精度：依赖于编译器？

在我的 32 位机器（具有 Intel T7700 双核）上，对于 C 语言的 double 和 long double 类型，我都有 15 位精度数字。我比较了 long double 和 DBL_ 的参数 LDBL_DIG...

c precision

回答 5 投票 0

当被丢弃的数字数量不大于 1 时，BigDecimal 舍入模式 HALF_EVEN 不起作用[重复]

当被丢弃的数字不大于 2（非零）时，我无法理解 BigDecimal Roundingmode HALF_EVEN 的行为。根据文档，使用 HALF_EVEN 舍入，当左侧数字时...

java precision bigdecimal

回答 1 投票 0

如何提高 Python DataFrame 中小数点的精度？

我正在用Python开发一个系统，它复制了用LabWindows编写的另一个系统。设计的一部分涉及计算周期图，它返回一个十进制数组。然后我将此数组添加到

python dataframe decimal signal-processing precision

回答 1 投票 0

Python - 尝试计算 pi 的数字，但无法超过小数点后 48 位数字

我正在尝试编写一个程序来使用Python中的Nilakantha系列来计算pi的数字。每次运行它都不会给我超过 50 位小数。还在学习 python 所以他...

python decimal precision pi

回答 2 投票 0

precision 相关问题

最新问题