floating-accuracy 相关问题

关于对浮点数执行的操作的准确性。

有人可以解释一下：>>> numpy.array（[22.0]，dtype = numpy.float64）/（2 ** 11）array（[0.01074219]）>>> 22.0 /（2 ** 11）0.0107421875> >> Numpy似乎会生成一个...

numpy floating-point precision floating-accuracy

回答 1 投票 0

如何处理GLSL中增加浮点值的小数精度？

我正在编写一个着色器，其中我需要根据增加的x偏移量来计算y值。问题是，增加的x值最终将失去其十进制精度，从而导致输出...

floating-point glsl shader precision floating-accuracy

回答 1 投票 0

如何在C中确定FLT_DIG，DBL_DIG和LDBL_DIG [重复]

FLT_DIG，DBL_DIG，LDBL_DIG是分别可以用浮点，双精度和长双精度类型精确表示的小数位数。 #include #include ...

c floating-point precision floating-accuracy

回答 2 投票 2

如何在Python中显示真实的数值？

情况1：对于[.1，.2，.3，.4，.5，.6，.7，.8，.9，中的num]：print（format（num，“ .50f”）） 0.10000000000000000555111512312578270211815834045410 0.20000000000000001110223024625156540423631668090820 0 ....

python floating-point precision floating-accuracy

回答 2 投票 1

我如何创建权重也称为作弊的数组以找到最佳精度

我是一名数据科学家，我已经思考了一段时间，当我训练一个模型时，它会根据学习率在梯度方向上调整其权重，以找到度量的最佳精度。

python keras neural-network logic floating-accuracy

回答 1 投票 0

Keras：已加载检查点模型以恢复训练会降低准确性吗？

我的keras模板正在为我的训练中的每个最佳时间生成一个检查点。但是我的互联网掉线了，在加载我的最后一个检查点并从上个赛季重新开始训练时（使用...

keras floating-accuracy checkpoint resuming-training

回答 1 投票 0

Mathf。大约（0.0f，float.Epsilon）== true是否正确？

我刚刚注意到以下代码返回true：Mathf.roximate（0.0f，float.Epsilon）; //是，我已经阅读了Mathf.aboutly文档，其中指出：roximately（）...

c# unity3d floating-point precision floating-accuracy

回答 1 投票 1

有人可以用此功能解释这种行为吗？

>>> def my_max（x，y）：返回（x + y + abs（x-y））/ 2 >>> my_max（-894,2.3）2.2999999999999545 >>> my_max（34,77）77.0> >> my_max（0.1,0.01）0.1 >>> ...

python python-3.x floating-point floating-accuracy

回答 1 投票 0

C错误为0.00和-0.00

C程序来查找矩阵的秩。我用高斯消去法确定矩阵的秩。这是我使用的方法。我在c中的代码：#include #include＆...

c floating-accuracy

回答 1 投票 0

fmt.Println在golang中的实现细节

考虑此代码导入（“ fmt”“ math / big”）func main（）{var b1，b2，b3，bigSum big.Float b1.SetFloat64（25.3）b2.SetFloat64（76.2）b1.SetFloat64（53.1） bigSum.Add（＆b1，＆...

go floating-accuracy

回答 1 投票 3

metrics.r2_score和acccuracy_score之间有什么区别

metrics.r2_score和acccuracy_score之间有什么区别，用于在机器学习模型中计算准确性。当我尝试此操作时：从sklearn.s中导入指标从sklearn.metrics中导入...

python machine-learning artificial-intelligence linear-regression floating-accuracy

回答 1 投票 0

从float分配数据丢失浮动打印

该测试在那里我有实际输出与预期输出之间的比较值时走了过来。代码：浮动NF = 584227.4649743827f;的printf（ “输出：\吨％.9f \ n” 个，NF）;输出：输出：...

c unit-testing floating-accuracy

回答 1 投票 2

通过所有可能的浮点值迭代，从最低开始

我写了一个数学函数单元测试，我希望能够“走”所有可能的花车/双打。由于IEEE诡计，浮动类型不能被递增（++）在它们的末端....

c++ math floating-point numeric floating-accuracy

回答 3 投票 3

浮点数不准确

我有一个字符串strValue =“ 11.900000”，我想将其解析为一个浮点值。所以我试着：float fValue = -1; sscanf_s（strValue.c_str（），“％f”，＆fValue）;尝试{双重测试= std :: stod（strValue，...

c++ precision floating-accuracy floating-point-conversion

回答 2 投票 1

为什么同样的代码在不同的机器上产生两个不同的fp结果？

这是代码：#include ＃包括 const double ln2per12 = log（2.0）/ 12.0; int main（）{std :: cout.precision（100）;双目标= 9 ....

c++ floating-point floating-accuracy

回答 1 投票 2

执行执行顺序

我想确保所请求的计算完全按照我指定的顺序执行，而不需要编译器或CPU（包括链接器，汇编器和......）的任何更改。

c++ c compiler-optimization floating-accuracy

回答 3 投票 0

处理融合乘法加法浮点不准确性的通用方法

昨天我正在跟踪我的项目中的一个错误 - 几个小时之后 - 我已经缩小到一段代码，这些代码或多或少地做了类似这样的事情：#include #include＆...

c++ floating-point precision floating-accuracy fma

回答 3 投票 4

是否存在两个相互相乘（或分开）的数字会引入错误？

这是我正在做的测试库，学习FP basic ops（+， - ，*，/）将如何引入错误：#include ＃包括 int main（）{std :: cout.precision（100）; ...

c++ floating-point floating-accuracy

回答 3 投票 -1

为什么这些数字不相等？

以下代码显然是错误的。有什么问题？一世

r floating-point floating-accuracy r-faq

回答 5 投票 246

使用loc，Pandas浮动值问题

对于Pandas用户来说，这可能是一个简单的用户，但是我会尽力而为，我真的很感激你的建议。我无法检索我保存到数据框中的值...

python python-3.x pandas numpy floating-accuracy

回答 1 投票 3

floating-accuracy 相关问题

最新问题