floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

为什么 IEEE 754 将 1 ^ NaN 定义为 1，为什么 Java 和 Javascript 违反了这一点？

IEEE 754 将 1 ^ n 定义为 1，无论 n 是多少。（我不会支付 106 美元来亲自证实这一点，但本文引用了 2008 年标准的第 44 页来证明这一点。）大多数编程语言似乎

javascript java floating-point ieee-754

回答 1 投票 0

我可以将字符串转换为具有最小小数点精度值的浮点数吗？

我正在研究从字符串中提取浮点数的东西。我注意到某些值会导致浮点值稍微不准确。关于这个主题的一些研究几乎告诉我......

c++ floating-point

回答 1 投票 0

-ffinite-math-only 促进了哪些优化？

我在文档和网络中可以找到的有关 -ffinite-math-only 的所有信息是“允许对假设参数和结果不是 NaN 或 +-Infs 的浮点算术进行优化......

gcc optimization floating-point

回答 1 投票 0

为什么循环不中断（浮点数精度）

我一直在尽一切努力让它发挥作用。所以基本上我希望程序在点后的数字变化少于 14 位数字后停止。但显然这种情况从未发生过。 #

c floating-point precision

回答 1 投票 0

如何在SQLite中使表中的列具有浮点值？

我正在数据库中制作一张表，其中一列需要存储浮点数。但是，当我要求 SQLiteDatabase 创建...

java android sqlite floating-point create-table

回答 1 投票 0

如何在表格中创建具有浮点值的列？

我正在数据库中制作一张表，其中一列需要存储浮点数。但是，当我要求 SQLiteDatabase 创建...

java android sqlite floating-point create-table

回答 1 投票 0

如何在运算过程中使 Rust 浮点精度与 JavaScript 精度相同？

我目前正在开发一个项目，将 js 代码移植到 Rust。在某些边缘情况下会反复出现问题，其中两个浮点数相加在一起并生成一个证书...

javascript rust floating-point precision

回答 1 投票 0

C 中是否有对浮点数进行四舍五入的函数，或者我需要编写自己的函数吗？

C 中是否有一个函数可以对浮点数进行四舍五入，还是我需要编写自己的函数？浮动转换器= 45.592346543；我想将实际值四舍五入到小数点后一位，conver = 45.6。

c floating-point rounding

回答 7 投票 0

Numpy 错误：exp 中遇到下溢

我正在尝试定义一个简单的指数，无论我放入指数参数中的数字如何，我都会得到以下结果： FloatingPointError：exp 中遇到下溢 ar...

python numpy error-handling floating-point

回答 2 投票 0

Go 中浮点文字的精度

为什么这些行给出不同的结果？ log.Printf("%v ", (float64(1.0 - 0.94))) // 0.06 log.Printf("%v ", (float64(1.0) - float64(0.94))) // 0.06000000000000005 ...

go floating-point precision

回答 1 投票 0

以 double 形式传递浮点值时的双精度

我对双精度有疑问。当将浮点值传递给双精度时，我会得到一些不同的结果。例如浮动 f= 54.23f；双 d1 = f; System.out.println(d1); 输出...

java floating-point double

回答 5 投票 0

浮点数有负零吗？ (-0f)

IEEE 浮点数有一个指定位来指示符号，这意味着从技术上讲，您可以使用不同的零二进制表示形式（+0 和 -0）。有没有算术运算我可以...

floating-point language-agnostic negative-zero

回答 10 投票 0

php 整数 - 当 echo 时显示 2 位小数，如果打印到 CSV 则显示 .0999999

使用 http://www.maatwebsite.nl/laravel-excel/ 导出到 CSV 和 Excel。我有一个 $rows 数组，其中包含所有行及其列。有些列使用 number_format(ro...

php floating-point rounding precision number-formatting

回答 1 投票 0

将混合字母数字/数字数据从 Excel 导入 R 时避免浮点错误

我有一个 Excel 文件，其中有一列可变长度的字母数字代码 - 请参阅问题末尾的示例。我一直在尝试使用 readxl 库将其读入 R： read_xlsx("文件.xlsx&

r excel floating-point

回答 1 投票 0

sin() 对于不同平台返回的结果略有不同

我在 CI 期间注意到这段代码 #包括 #包括 int main() { 常量双 d = 3.81219767052986080458； fprintf(stderr, "%.20f “，罪（d））；

c floating-point

回答 1 投票 0

在 C 语言中比较 double 与文字值在 32 位机器上会给出不同的结果

有人可以解释一下原因吗：双 d = 1.0e+300； printf("%d “，d==1.0e+300); 在 64 位机器上按预期打印“1”，但在 32 位机器上打印“0”？（我在 Fedora 25 上使用 GCC 6.3 得到了这个......

c gcc x86 floating-point 32bit-64bit

回答 1 投票 0

C++ 浮点运算中的意外行为

所以，我写了一些代码： #包括 #包括 int main() { 整数a，b，n； std::cin >> a >> b >> n; 双 xi[n]; 双义[n]; 双...

c++ floating-point

回答 1 投票 0

为什么非规格化浮点数中的指数 E = 1 - 偏差？

例如，对于 32 位非规范化浮点数，指数将为 -126。 -126 在这种情况下有什么意义？

floating-point bit denormalized

回答 2 投票 0

(.0) JavaScript 中的浮动

我正在尝试为一个函数编写代码，在检查该值是否为整数后显示布尔值。当我调用 fun 时，请参阅下面我的理想输出中整数的定义...

javascript node.js function floating-point

回答 1 投票 0

Ruby 浮点数学 - 求和计算中的精度问题

我在浮点数学方面遇到了一些问题，并且完全迷失在“.to_f”、“*100”和“.0”中！我希望有人可以帮助我解决我的具体问题...

ruby-on-rails ruby validation math floating-point

回答 3 投票 0

floating-point 相关问题

最新问题