有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。
考虑数学方程：y = (sin(x/2)/x)，它出现在旋转的计算中。在 x->0 的限制下，其值为 1/2。在 Python（或任何具有 sim 的语言）中实现此功能...
是否可以使用有限精度浮点运算基于ARM伪代码实现符合IEEE 754的浮点运算？
背景：通常浮点运算是使用整数运算来实现的（例如，Berkeley SoftFloat）。根据 ARM 伪代码 [1]，浮点运算是使用无限实现的
关于Java中BigDecimalmultiply()方法的问题
我一直在努力避免在Java中使用BigDecimalmultiply()方法时精度损失。 请检查上面的示例代码。 导入java.math.BigDecimal； 导入 java.text.DecimalFormat; 小鬼...
我之所以做到这一点，是因为必须对变压器模型进行长输入批处理，并注意到批处理和非批处理结果之间的差异。我终于隔离了我注意到的第一个差异，导致
我需要在计算着色器中使用双精度的 acos() 函数。由于GLSL中没有双精度的内置函数acos()，所以我尝试实现自己的函数。 首先，我恳求...
我有一个字符串需要转换为数字。 问题是，当尝试使用 parseFloat 时，我有 20 位小数，而 JS 在 15 或 17 位小数后精度较低。 例子： 常量数=“0.
如何实现具有良好精度的 fmod 函数而不将它们转换为 double/long double？
我正在尝试在汇编中实现 fmodf 函数。我使用的公式如下。 fmodf(浮点 x,浮点 y) = x - trunc(x / y) * y 问题是，当 x>>y 时，函数的精度为 g...
我从文件中读取了一个浮点数，并且必须将其转换为字符串。我的问题是我不确定小数点后有多少位。我需要准确地获取浮动并转换...
在 IEEE 754 算术中是否有一种亚 O(n) 的方式来复制浮点值的重复求和？ 也就是说，是否有一种更快的方法来精确复制以下伪代码的结果...
众所周知，Scheme 无需任何进一步的努力就可以产生极大的整数。 但是如何实现极高的浮点精度呢？谢谢。 （通过“极端...
出现错误“权重总和不等于 1”，但它们的总和确实为 1（R 的 MCDM 包）[重复]
我正在对多标准决策模型进行敏感性分析。该模型使用 MCDM 包在 R 中运行。该模型的一个关键组成部分是它依赖于用户给定的一组权重......
g0 = randn(1, 100); g1 = g0; g1(2:结束) = 翻转(g1(2:结束)); sprintf("%.15e", sum(g0) - sum(g1)) g0 = np.random.randn(100) g1 = g0.copy() g1[1:] = g1[1:][::-1] 打印（总和（g0）-总和（g1）） 在...
我有一套 240 个具有不同抽头数的 FIR 滤波器卷积单元测试。 所有测试都通过了，当我正在完善时，我注意到用于比较的增量是 1E-04f。 我把它降低了...
有没有办法确定一个数字是否可以存储为单浮点数或双浮点数？ 我正在实现我自己的数据库格式，在我的辅助函数 num2bin(n) 中，我目前有以下内容...
我有浮点数精度问题： int 主函数（无效）{ 双b = 106.829599； 浮动 a = b; std::cerr << std::setprecision(6) << "a = " << a << "; b = " <&...
我知道你通常不能依赖双精度或十进制类型值之间的相等性，但我想知道 0 是否是一种特殊情况。 虽然我可以理解 0.00000000000001 和 0 之间的不精确性。
我正在尝试重现《Math Letters Jr.》第 81 页上的情节（顺便说一句，这是一本很棒的休闲数学书）。该图是使用一对迭代应用的简单函数创建的...
我有一个传递一维坐标数组的函数。这些是分段函数已在字典中定义的部分的末尾，并且也作为输入传入。然而，...
gcc13：long double 的精度与 libquadmath 几乎相同；它们都是 80 位浮点实现吗？
我认为 GCC 目前（2023 年）会为 long-double 实现 80 位浮点数，并使用 libquadmath 实现 128 位浮点数... 然而，对于 amd64 架构 (AMD FX-8320E) 上的 gcc 13.2.0，我发现
Kotlin 或 Java 中是否有一种方法可以将 Double 解析为 Int ，并且知道所有双精度数都不会超出 Int 内存限制？ 例子： 双倍的 INT 1,123 1123 1,1 11 1,12345 11234 0,12345 1234 我...