precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

PHP 舍入浮点数

我正在开发一个系统，我需要四舍五入到最接近的便士财务付款。我天真地以为我会乘以 100，发言，然后再除以。然而以下...

php precision

回答 5 投票 0

Oracle 中 NUMBER 数据类型的真正限制是什么？

我需要帮助来理解 NUMBER 数据类型，因为 Oracle 文档中的以下 2 个语句对我来说似乎是互斥的。 “NUMBER 数据类型存储零以及正数...

sql oracle numbers precision numeric

回答 1 投票 0

将最大整数转换为浮点数而不损失精度

我有一个以下代码片段，我用它来尝试测试如果将最大整数转换为双精度数是否会发生精度损失： #包括 #包括 #包括<

c++ floating-point precision

回答 1 投票 0

我们如何用定点和浮点二进制表示法来表示-0.67？

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

verilog precision fixed-point fixpoint-combinators

回答 1 投票 0

awk 与小于 1.7e-308 的数字比较

以下命令回声 1.8e-308 |呆呆'$1<0.05' produce no output, while this one gawk 'BEGIN{if(8.2547e-309<0.05){print "true"}}' print "true". This answer explain why the first co...

awk precision

回答 2 投票 0

imshow 绘制非常大的整数，但“dtype 对象无法转换为浮点数”

我有以下代码，在网格上绘制一个函数，其中该函数恰好有一个非常大的整数值：将 matplotlib.pyplot 导入为 plt 从 matplotlib.ticker 导入 ScalarFormatter，

python matplotlib precision floating-accuracy imshow

回答 2 投票 0

Python plt.imshow() 绘制非常大的整数，但“dtype 对象无法转换为浮点数”

我有以下代码，在网格上绘制一个函数，其中该函数恰好有一个非常大的整数值：将 matplotlib.pyplot 导入为 plt 从 matplotlib.ticker 导入 ScalarFormatter，

python matplotlib precision floating-accuracy arbitrary-precision

回答 2 投票 0

float8、float16、float32、float64 和 float128 可以包含多少位？

Numpy 的 dtype 文档仅显示每种浮点类型的“x 位指数，y 位尾数”，但我无法将其转换为小数点之前/之后的确切位数。是...

python numpy floating-point precision

回答 2 投票 0

C++中的N体模拟具有很大的动量守恒和巨大的能量偏差

我正在使用 Verlet 积分（更具体地说，是 Verlet 积分维基百科页面“非常量时间差”部分中的最后一个方程），以及 C++ 和 Eigen 库...

c++ precision game-physics numerical-methods verlet-integration

回答 1 投票 0

在 Python 中比较浮点数时遇到问题

我知道这应该更容易，但我在比较浮点值时遇到问题。我有一些非常基本的代码，可以做一些事情：任何低于 5 的重量都会添加到 light_pkgs 中。任何重量...

python math precision

回答 1 投票 0

在 JDBC Insert 中用随机数填充 BigDecimal 变量

考虑 SQL 语句 INSERT INTO 表（字段）VALUES (-0.11111111)，字段 Oracle 类型为 NUMBER。当要插入的值是 float 或 double 类型时，您将获得字段中的精确值，即...

java oracle precision bigdecimal

回答 2 投票 0

PyTorch load_state_dict() 未加载精确值

为了简单起见，我想使用此代码将火炬模型的所有参数设置为常量 72114982 模型=网络() params = model.state_dict() 对于 params.items() 中的 k、v： params[k] = torch.ful...

pytorch precision

回答 1 投票 0

为什么计算机科学中的“(eps * 0.5) + 1”不大于“1”？

我正在学习Matlab，我不明白为什么(eps * 0.5) + 1不大于1。每股收益答案= 2.220446049250313e-16 fprintf('%.52f '，eps）； 0.

matlab math floating-point precision epsilon

回答 1 投票 0

在Python中什么条件下`str(float(val)) == val`不成立

对于像“1.2345”这样的字符串 val 变量，assert str(float(val)) == val 总是成立吗？我已经发现它并不总是成立 >>> str(浮点('1.2345')) '1.2345' >>> ...

python floating-point precision

回答 1 投票 0

学生 cdf 和普通 ppf 精度

有没有办法提高 scipy.stats 函数norm.pdf 和 t.cdf 的精度？因为如果我这样做它会起作用：从 scipy.stats 导入范数，t 范数.ppf(t.cdf(9, 140)) 但如果我这样做

scipy python-3.7 precision scipy.stats

回答 1 投票 0

获取float64进行numpy计算

def chi2_distance(a,b): d=1-(np.dot(a,b)/(范数(a,轴=1)*范数(b))) 返回d a 和 b 是 float32，最多有 8 位小数。但我希望计算精度为 16 位小数。作为...

numpy decimal precision

回答 1 投票 0

Python numpy float16 数据类型操作和 float8？

对 float16 Numpy 数字执行数学运算时，结果也是 float16 类型数字。我的问题是结果到底是如何计算的？假设我正在将两个 float16 数字相乘/相加...

python numpy floating-point precision

回答 2 投票 0

SymPylambdaify 给出错误的结果，而 *.subs 给出准确的结果

很抱歉打扰您。我有一个严重的问题，现在我正在努力解决它，所以这是我的问题。我有一个问题，我对数量进行了羔羊化，但数量的结果不同......

python math sympy precision

回答 2 投票 0

C# 格式化浮点舍入/精度问题：N2 与 0.00

在 C# (.Net 7) 中：浮动a = 13082987520.00f; Console.WriteLine(a); Console.WriteLine($"{a:N2}"); Console.WriteLine($"{a:0.00}"); 我得到： 1.3082988E+10 13,082,987,520.00 1308299000...

c# floating-point precision

回答 2 投票 0

PIRLS 步骤减半，lme4 中带有 cloglog 链接

我使用 lme4::lmer() 和 family = binomial(link = cloglog) 时收到 PIRLS 减半错误。在我看来，我生成的数据可能是下面的模型过于复杂的，这可能......

optimization precision lme4

回答 1 投票 0

precision 相关问题

最新问题