precision 相关问题

Javascript： > parseFloat("738529527931269425") 738529527931269400 爪哇： @ java.lang.Double.parseDouble("738529527931269425") res4：双精度 = 7.3852952793126938E17 @（长）java。

javascript java floating-point rounding precision

回答 1 投票 0

如何根据 mpfr_get_prec() 返回的值计算 DECIMAL_DIG？

上下文：C标准有xxx_DECIMAL_DIG宏，可以在printf中使用它来保持浮点值的精度。双的示例： printf("%.*g “，DBL_DECIMAL_DIG，x）；阿丝...

floating-point precision mpfr

回答 1 投票 0

stof、stoi、stod 与提取器操作员

我想知道现代 C++ 中最推荐哪种方式将字符串转换为数字。双精度型、浮点型或整数型。我遇到了 C++11 stof，但我一直在使用提取器

c++ performance type-conversion precision

回答 1 投票 0

四元数计算中小浮点数的Python除法

考虑数学方程：y = (sin(x/2)/x)，它出现在旋转的计算中。在 x->0 的限制下，其值为 1/2。在 Python（或任何具有 sim 的语言）中实现此功能...

python floating-point precision quaternions scipy-spatial

回答 1 投票 0

是否可以使用有限精度浮点运算基于ARM伪代码实现符合IEEE 754的浮点运算？

背景：通常浮点运算是使用整数运算来实现的（例如，Berkeley SoftFloat）。根据 ARM 伪代码 [1]，浮点运算是使用无限实现的

floating-point arm precision arbitrary-precision

回答 1 投票 0

关于Java中BigDecimalmultiply()方法的问题

我一直在努力避免在Java中使用BigDecimalmultiply()方法时精度损失。请检查上面的示例代码。导入java.math.BigDecimal；导入 java.text.DecimalFormat; 小鬼...

precision bigdecimal

回答 1 投票 0

PyTorch 矩阵乘法不考虑切片

我之所以做到这一点，是因为必须对变压器模型进行长输入批处理，并注意到批处理和非批处理结果之间的差异。我终于隔离了我注意到的第一个差异，导致

python pytorch precision huggingface-transformers torch

回答 1 投票 0

acos()函数有精确的近似值吗？

我需要在计算着色器中使用双精度的 acos() 函数。由于GLSL中没有双精度的内置函数acos()，所以我尝试实现自己的函数。首先，我恳求...

opengl glsl precision trigonometry

回答 4 投票 0

Javascript 精度超过 15 位小数

我有一个字符串需要转换为数字。问题是，当尝试使用 parseFloat 时，我有 20 位小数，而 JS 在 15 或 17 位小数后精度较低。例子：常量数=“0.

javascript precision parsefloat

回答 1 投票 0

如何实现具有良好精度的 fmod 函数而不将它们转换为 double/long double？

我正在尝试在汇编中实现 fmodf 函数。我使用的公式如下。 fmodf(浮点 x,浮点 y) = x - trunc(x / y) * y 问题是，当 x>>y 时，函数的精度为 g...

algorithm floating-point precision calculation

回答 1 投票 0

如何将浮点数转换为字符串

我从文件中读取了一个浮点数，并且必须将其转换为字符串。我的问题是我不确定小数点后有多少位。我需要准确地获取浮动并转换...

string go floating-point precision

回答 4 投票 0

精确复制浮点值的重复加法

在 IEEE 754 算术中是否有一种亚 O(n) 的方式来复制浮点值的重复求和？也就是说，是否有一种更快的方法来精确复制以下伪代码的结果...

floating-point precision ieee-754

回答 1 投票 0

Scheme中如何实现极高的浮点精度？

众所周知，Scheme 无需任何进一步的努力就可以产生极大的整数。但是如何实现极高的浮点精度呢？谢谢。（通过“极端...

scheme precision

回答 1 投票 0

precision 相关问题

最新问题