precision 相关问题

有关编程中数值精度的问题。对于分类精度，请使用标签[precision-recall]。

在Python中，你能在只显示两位小数的情况下获得长小数的全部效用吗？

我有一对盒子。一是针对劳动时间。另一个是劳务费。当您输入工时金额时，它会自动计算并填充人工美元框。当您进入分娩状态时

python tkinter floating-point decimal precision

回答 1 投票 0

为什么循环不中断（浮点数精度）

我一直在尽一切努力让它发挥作用。所以基本上我希望程序在点后的数字变化少于 14 位数字后停止。但显然这种情况从未发生过。 #

c floating-point precision

回答 1 投票 0

如何在运算过程中使 Rust 浮点精度与 JavaScript 精度相同？

我目前正在开发一个项目，将 js 代码移植到 Rust。在某些边缘情况下会反复出现问题，其中两个浮点数相加在一起并生成一个证书...

javascript rust floating-point precision

回答 1 投票 0

浮点数转换过程中可能会损失精度

我在 Google 上搜索了如何在 Java 中获取浮点数的 2 位小数。下面是我的代码。最后，这里 float TotalWeight = 0.1*levinWeight+0.8*lsmWeight; 我收到可能会损失精度的错误？我...

java decimal precision

回答 3 投票 0

为什么 -freciprocal-math 在 GCC 中不安全？

-freciprocal-math 更改了以下代码双a = b / c；到双 tmp = 1/c；双a = b * tmp; GCC手册中说这样的优化是不安全的，不粘...

c math gcc optimization precision

回答 2 投票 0

Go 中浮点文字的精度

为什么这些行给出不同的结果？ log.Printf("%v ", (float64(1.0 - 0.94))) // 0.06 log.Printf("%v ", (float64(1.0) - float64(0.94))) // 0.06000000000000005 ...

go floating-point precision

回答 1 投票 0

php 整数 - 当 echo 时显示 2 位小数，如果打印到 CSV 则显示 .0999999

使用 http://www.maatwebsite.nl/laravel-excel/ 导出到 CSV 和 Excel。我有一个 $rows 数组，其中包含所有行及其列。有些列使用 number_format(ro...

php floating-point rounding precision number-formatting

回答 1 投票 0

Python中如何判断一个大整数是否是3的幂？

我试图确定给定的正整数（ N ）是否是 3 的幂，即是否存在一个非负整数（ x ）使得（ 3^x = N ）。挑战在于 (N) 可能非常大，

python algorithm math precision

回答 1 投票 0

手机任何状态下超精准振动器触发

我的 Android 应用程序 (Jetpack Compose) 需要在非常精确的时间触发手机振动器（最大延迟几毫秒）。振动器必须在手机和应用程序的任何状态下触发：手机唤醒...

android kotlin android-jetpack-compose precision ntp

回答 1 投票 0

使用GridSearchCV进行Logistic回归时的精度计算警告

我正在尝试使用 LogisticRegression 估计器运行 GridSearchCV 并记录模型准确性、精度、召回率、f1 指标。但是，我在精度指标上遇到以下错误：精确...

python scikit-learn precision logistic-regression gridsearchcv

回答 2 投票 0

如何将全精度十进制值插入clickhouse？

即使在 clickhouse 中使用 Decimal() 类型后，长精度值也会被截断。如何解决这个问题？例如，值 5914.922286612016543134 被截断并插入为 5914。

decimal precision clickhouse

回答 1 投票 0

哪些数字在 IEEE-754 二进制 64（“双精度”）和 64 位二进制补码 long 中具有相同的按位表示

是否存在 64 位二进制补码表示形式（有时用于 long）和 IEEE-754 二进制 64 表示形式（通常用于 double）相同的值？如果有的话，有多少个这样的

bit-manipulation precision ieee-754

回答 1 投票 0

长整型和双精度格式具有相同按位表示的数字

是否存在长整型（使用二进制补码）和双精度型（使用 IEEE 754 格式）的二进制表示形式完全相同的值？如果有，存在多少个这样的数字，分别是什么

bit-manipulation precision ieee-754

回答 1 投票 0

在处理非常接近零的数字或其他边缘情况时，如何处理 C 中的浮点精度

我用 C 语言编写了一个程序，根据给定的三个点计算三个点。所以我们给定点 A、B、C 并计算点 A'、B'、C'。现在有三种方法可以实现这些点...

c math floating-point double precision

回答 1 投票 0

x86_64 的 clang 上的半精度浮点支持

我正在尝试在 x86_64 上试验半精度浮点数 (_Float16)（为什么不呢？）。 clang-17（在 ubuntu-20.04 上）似乎可以正确编译，但链接器显示以下错误： /usr/bin/ld: /tmp...

floating-point clang precision

回答 1 投票 0

从 float 转换为 big.Int 时如何保持 golang 中大数的精度

我有一个输入可能是非常大或非常小的浮点数，需要将其转换为big.Int，但由于某种原因，存在一些精度损失。我知道这应该发生在非常小的人身上......

go floating-point precision

回答 1 投票 0

如何在 PostgreSQL 中获取数组元素的“数字精度”、“数字比例”和“日期时间精度”元数据？

对于一个开源项目，我需要获取PostgreSQL数据库中数组的“数字精度”，“数字比例”和“日期时间精度”。我正在使用 information_schema.columns 并将其加入到

arrays postgresql precision information-schema

回答 1 投票 0

有没有办法提高 qutip 函数中的数字精度？

我有一个问题，两个相对熵的差异是有限的，但它们各自发散。 qutip 中计算相对熵的函数是 qt.entropy_relative(state1, sta...

precision qutip

回答 1 投票 0

Pandas 数据框中的浮点数据类型对于高精度十进制值的行为不一致

Pandas 数据框给出了不正确的高精度十进制值。例如： oracle表中的数据是 45.200000000000003 12.699999999999999 99.745663 oracle中的数据类型是number(28...

pandas dataframe decimal precision

回答 1 投票 0

使用float类型计算时如何提高精度？

我遇到了问题。代码如下：浮动 a = 2.f; 浮点t = 0.0000025f；浮动 b = a + t; 浮点数 c = b - a； printf("b = %.8f ”，b)； printf("c = %.8f ”，c)；

cuda precision optix

回答 1 投票 0

precision 相关问题

最新问题