precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

用C语言减去浮点数

＃包括＃包括 float sum（float * A，int len）//浮点表的总和{float ss = 0.0; int i; for（i = 0; i <len; ++ i）ss + = A [i]; ...

c floating-point precision floating-accuracy qsort

回答 2 投票 -3

是否可以设置Set的精度。载有（）？

假设我们有Set的实现。它包含以下值：[2.0,5.0,7.0]。包含（2.0001d）在这种情况下返回false，因为double值被精确比较...

java set double precision

回答 4 投票 8

什么是在PostgreSQL中存储Javascript号码的最佳方式

我有从Javascript代码生成的数字，我想将它们存储在PostgreSQL表中。我有遗留表，整个JSON对象存储为JSONB类型，在新表中我想...

javascript sql node.js postgresql precision

回答 1 投票 0

浮点中整数的精确表示

我试图理解浮点格式的整数表示。由于IEEE浮点格式尾数只有23位，所以我希望任何大于1的整数

c++ floating-point precision

回答 1 投票 1

浮点数呈现背后的谜团

我正在为我的应用程序测试一些简单的解决方案，我遇到了一些问题出现在我脑海中的情况......“为什么一个浮动数字正确地用JSON表示（正如我所料）而另一个不是......

swift floating-point decimal precision floating-accuracy

回答 3 投票 0

美制公制：单独转换汇总或转换？ [关闭]

我正在开发一个程序，允许用户以公制或美制单位输入测量值并将其存储在数据库中。之后，应该允许用户检索多个总和...

c# sql-server-2008 tsql precision

回答 2 投票 0

在C中除以整数将值向下舍入/结果为零

我正在尝试对整数进行一些算术运算。问题是当我试图进行除法得到双倍的结果时，结果总是0.00000000000000000000，即使这显然不是......

c floating-point precision floating-accuracy

回答 4 投票 0

SAS十进制精度和写入数据库

美好的一天，我遇到了这个问题，我在数据库中写了一些数字，在SAS中应该有0.1的值，但由于一些奇怪的原因在SQL数据库中显示为0.09。我手动检查时......

sas precision

回答 2 投票 0

为什么sqrt（）指定的浮点数没有精度损失？ [关闭]

我想了解C如何处理浮点数的精度损失。这是我的简单代码：#include ＃包括 int main（）{double a; int i; ...

c precision

回答 2 投票 1

Code ::在Windows中以固定精度阻止printf double

我在两个不同的操作系统上构建并运行以下代码：#include using namespace std; int main（）{double d = 1.123456; printf（“％。5lf”，d）; COUT <

c++ printf double codeblocks precision

回答 1 投票 0

C ++使用epsilon的双打比较

我为使用epsilon的双打定义了一个比较函数，如下所示：浮点数和双重比较的最有效方法是什么？如果它们的绝对差异是两个双打则不同......

c++ precision

回答 4 投票 1

h5py矩阵存储精度

我想使用Python3-h5py将矩阵存储到.HDF5格式我的问题是，当我将初始数据与从HDF5文件中提取的数据进行比较时，我得到了惊人的差异。进口numpy ...

python-3.x numpy floating-point precision h5py

回答 1 投票 1

避免浮点数的不准确性

我完全理解与浮点相关的问题，但我看到了一个我无法解释的非常有趣的行为。 float x = 1028.25478; long int y = 102825478; float z = y /（...

c floating-point numbers precision

回答 3 投票 4

如何降低C中双精度？

我试图降低C中双变量的精度来测试对结果的影响。我尝试了一点点＆，但它给出了一个错误。我如何在float和double变量上执行此操作？

floating-point double precision

回答 2 投票 0

Python：根据函数的值减少网格

我有一个规则间隔的网格，比方说200 * 200 * 200 = 8,000,000点。我还有一些函数f的值列表（它取正值和负值，并且在空间上变化很大）......

python optimization grid integration precision

回答 1 投票 0

我的数字精度和比例我做错了什么？ [重复]

我试图在Oracle SQL Developer中插入以下语句：INSERT INTO ACC VALUES（1245890,234.50，'Broomhill'，'15 -NOV-2003'，100.00）;该语句插入得足够好，没有错误，......

sql oracle precision

回答 2 投票 0

logistic / sigmoid函数实现数值精度

在scipy.special.expit中，logistic函数实现如下：if x <0 a = exp（x）a /（1 + a）else 1 /（1 + exp（-x））但是，我看到了实现其他 ...

python scipy floating-point precision sigmoid

回答 3 投票 9

比较用两种不同语言执行的数学运算之间的数值结果

我目前正在尝试将算法从IDL移植到Python 3，在比较结果时我遇到了以下问题：如何查看数字并确定我是否有效...

python precision numerical-methods idl-programming-language

回答 2 投票 1

精度误差，两个数学上相同的表达式在零附近

当绘制非常接近于零的两个数学上等效的表达式时，我们得到两个相似的结果，但是其中一个曲线具有步骤而不是平滑。 1-cosh（x）== -2 * sinh（x / 2）^ 2现在快速......

matlab precision

回答 1 投票 3

Python numpy浮点数组精度

我试图通过以下链接使用Pegasos迷你批处理算法（如图2所示）来解决SVM优化问题：http：//www.cs.huji.ac.il/~shais/papers/ShalevSiSrCo10.pdf #X： m * n矩阵与m ...

python numpy svm precision

回答 1 投票 0

precision 相关问题

最新问题