precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

为什么SetPixel不准确？如何将float应用于整数？统一

我正在使用Shader让我在纹理上打洞。我使用Raycast的TextCoord来选择应该是洞的地方。接下来，我使用SetPixel32来打洞。不幸的是每个版本......

unity3d unity5 precision pixel floating-accuracy

回答 1 投票 1

大浮点和的精度

我试图总结一个正向递减浮点的排序数组。我已经看到，总结它们的最佳方法是开始将数字从最低到最高加起来。我写这个代码有...

c floating-point precision numerical-methods

回答 2 投票 6

Lua math.floor返回错误的值

。有我的代码：for k，v in pairs（result）do result [k] = math.floor（v * 1000）/ 1000 if k == 215 then print（v，math.floor（v * 1000）） k的结束，v成对（额外）do extra [k] = math.floor（...

lua floating-point precision

回答 1 投票 0

Citardauq Formula无法正常工作

我试图使用Citardauq公式计算二次方程的根，这是一种更加数值稳定的方法来计算这些根。但是，例如，当我进入......

c precision numerical-methods

回答 1 投票 0

如何将具有科学记数法的字符串转换为浮点而不会丢失精度？

我有一个字符串，我需要转换为浮点数让我继续工作。 num =“2.769999999999999574e + 00”如果我进行浮动操作，精度就会消失打印（float（num））＃2.7699999999999996如果我......

python-3.x precision

回答 1 投票 1

使用JSON.parse解析数量

Dos它存在一个最大浮点数，小数点后有两位数，可以用JSON.parse解析而不会丢失精度？例如：JSON.parse（'{“amount”：9999999999999.99}'）{...

javascript json floating-point precision

回答 1 投票 1

在Matlab中，为什么整个矩阵的L2范数的平方与行/列方L2的范数之和不匹配？

矩阵L2范数的平方应与所有行/列L2-Norm的平方和相匹配。参考：http：//mathworld.wolfram.com/L2-Norm.html考虑在Matlab中跟随随机（4,3）矩阵...

matlab machine-learning precision norm

回答 1 投票 1

在Java中模拟excel行为以进行测试

我在Java中实现了一个基于Markov链的Excel公式编写的算法，并将结果与 Jxl库进行比较。正如我所读到的，问题是这两种语言没有......

java excel precision jxl markov-chains

回答 1 投票 0

如何精确地将毫秒转换为秒

我希望尽可能精确地将毫秒转换为秒（例如1500ms至1.5s，或500ms至0.5s）。 Double.parseDouble（500/1000 +“。”+ 500％1000）;不是最好的方式......

java precision divide milliseconds

回答 3 投票 24

代码指定的双精度和编译器选项双精度之间的差异

编写Fortran代码时，通过赋值= 8或双精度来声明实变量是确保双精度的一种方法。另一种方法是不在代码中明确声明任何内容......

fortran precision

回答 1 投票 2

IOB精度和精度之间的差异

我正在做NLTK的一些有关命名实体识别和chunkers的工作。我使用nltk / chunk / named_entity.py重新训练了一个分类器，我得到了以下信息：ChunkParse得分：IOB ......

python nlp nltk precision named-entity-recognition

回答 1 投票 3

tf.round（）到指定的精度

tf.round（x）将x的值舍入为整数值。是否有任何方法可以舍入到3位小数位？

tensorflow floating-point rounding precision

回答 1 投票 5

JS中整数除法的精确性

如果a和b是小于Number.MAX_SAFE_INTEGER的正整数，并且a可以被b整除，那么它是否保证console.log（a / b）将输出一个整数（而不是，例如，以...结尾的数字）

javascript floating-point precision division

回答 1 投票 1

为什么浮点数不准确？

为什么有些数字在存储为浮点数时会失去准确性？例如，十进制数9.2可以精确表示为两个十进制整数（92/10）的比率，两者都可以...

floating-point language-agnostic precision

回答 6 投票 168

C ++中浮点数据类型的精度

为什么浮点数据类型的精度与其大小成正比？例如：std :: cout << sizeof（float）<<“\ n”; //这在我的机器上给出4“debian 64 bit”和“gcc 6.3 ....

c++ gcc floating-point precision long-double

回答 3 投票 2

precision 相关问题

最新问题