floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

Python 浮点运算比较

我真的不明白为什么这个比较仍然会评估False，即使它们完全相同。从十进制导入十进制，获取上下文 getcontext().prec = 10 x1 = 1.1 x2 = 1.0 公关...

python floating-point

回答 1 投票 0

__DBL_EPSILON__ 等宏的 GCC 值在哪里定义？

我使用 GCC 和 MinGW 作为编译器。我想从一些浮点常量中找到实际值，但它们都被定义为编译器宏。例如：__DBL_EPSILON__、__DBL_MAX__、

c++ c gcc floating-point

回答 1 投票 0

弹性查询，获取具有特定数据类型的字段的所有索引

我在弹性中遇到映射冲突。有问题的字段需要是浮点数，但它被映射为关键字。我需要一个可以收获具有该字段的所有索引的查询。我是...

elasticsearch types floating-point lookup keyword

回答 1 投票 0

大于 1 的最小去/归一化数是多少？（64 位）

我正在与非规范化数字作斗争。我知道：本质上，非规范化浮点数能够表示可以用以下表示的最小（大小）数字任意

floating-point binary floating-accuracy ieee-754 denormalization

回答 2 投票 0

具有无穷大和 nan 的复数乘法/除法

在真正的浮点运算中，我们有附加符号INF（无穷大）、NAN 和有符号零。对于复杂的算术来说，这更加困难。如果使用“天真的”规则

math floating-point ieee-754 complex-numbers

回答 1 投票 0

Float、Double、Char、C++ 错误。怎么了？

我正在学习C++，但遇到了一个我不明白的错误。这是我的源代码，包括评论（我正在学习的个人参考。） #include“stdafx.h” #包括

c++ floating-point

回答 5 投票 0

在Python中，你能在只显示两位小数的情况下获得长小数的全部效用吗？

我有一对盒子。一是针对劳动时间。另一个是劳务费。当您输入工时金额时，它会自动计算并填充人工美元框。当您进入分娩状态时

python tkinter floating-point decimal precision

回答 1 投票 0

为什么我的 Python 中的浮点数二分搜索实现失败？

我正在Python中为包含浮点数的排序列表实现二分搜索算法。然而，由于 prec...

python algorithm floating-point binary-search

回答 1 投票 0

为什么我的 RISC-V FCVT.W.D RTL 实现对于输入 0xC1E0000000000000 返回 0x00000000，而不是 0x80000000？（这是一个极端情况）

我正在调试 RISC-V FCVT.W.D（IEEE 754 格式下的双精度到有符号整型转换）指令的 RTL 实现与其在参考模型中的行为之间的差异...

floating-point system-verilog ieee-754 register-transfer-level riscv32

回答 1 投票 0

常量表达式在赋值时需要宽度不匹配。不可合成的 VHDL 代码行

我正在尝试实现一个浮点加法器/减法器。我已经实现了可以工作的代码。当我运行模拟时，它按预期工作。问题是当我尝试在 Vivado 中合成它时......

floating-point vhdl

回答 1 投票 0

为什么 IEEE 754 将 1 ^ NaN 定义为 1，为什么 Java 和 Javascript 违反了这一点？

IEEE 754 将 1 ^ n 定义为 1，无论 n 是多少。（我不会支付 106 美元来亲自证实这一点，但本文引用了 2008 年标准的第 44 页来证明这一点。）大多数编程语言似乎

javascript java floating-point ieee-754

回答 1 投票 0

我可以将字符串转换为具有最小小数点精度值的浮点数吗？

我正在研究从字符串中提取浮点数的东西。我注意到某些值会导致浮点值稍微不准确。关于这个主题的一些研究几乎告诉我......

c++ floating-point

回答 1 投票 0

-ffinite-math-only 促进了哪些优化？

我在文档和网络中可以找到的有关 -ffinite-math-only 的所有信息是“允许对假设参数和结果不是 NaN 或 +-Infs 的浮点算术进行优化......

gcc optimization floating-point

回答 1 投票 0

为什么循环不中断（浮点数精度）

我一直在尽一切努力让它发挥作用。所以基本上我希望程序在点后的数字变化少于 14 位数字后停止。但显然这种情况从未发生过。 #

c floating-point precision

回答 1 投票 0

如何在SQLite中使表中的列具有浮点值？

我正在数据库中制作一张表，其中一列需要存储浮点数。但是，当我要求 SQLiteDatabase 创建...

java android sqlite floating-point create-table

回答 1 投票 0

如何在表格中创建具有浮点值的列？

我正在数据库中制作一张表，其中一列需要存储浮点数。但是，当我要求 SQLiteDatabase 创建...

java android sqlite floating-point create-table

回答 1 投票 0

如何在运算过程中使 Rust 浮点精度与 JavaScript 精度相同？

我目前正在开发一个项目，将 js 代码移植到 Rust。在某些边缘情况下会反复出现问题，其中两个浮点数相加在一起并生成一个证书...

javascript rust floating-point precision

回答 1 投票 0

C 中是否有对浮点数进行四舍五入的函数，或者我需要编写自己的函数吗？

C 中是否有一个函数可以对浮点数进行四舍五入，还是我需要编写自己的函数？浮动转换器= 45.592346543；我想将实际值四舍五入到小数点后一位，conver = 45.6。

c floating-point rounding

回答 7 投票 0

Numpy 错误：exp 中遇到下溢

我正在尝试定义一个简单的指数，无论我放入指数参数中的数字如何，我都会得到以下结果： FloatingPointError：exp 中遇到下溢 ar...

python numpy error-handling floating-point

回答 2 投票 0

Go 中浮点文字的精度

为什么这些行给出不同的结果？ log.Printf("%v ", (float64(1.0 - 0.94))) // 0.06 log.Printf("%v ", (float64(1.0) - float64(0.94))) // 0.06000000000000005 ...

go floating-point precision

回答 1 投票 0

floating-point 相关问题

最新问题