浮点数是实数的近似值,可以表示比整数更大的范围,但使用相同数量的内存,代价是精度较低。如果您的问题是关于小算术错误(例如为什么0.2 + 0.1等于0.300000001?)或十进制转换错误,请在发布之前阅读下面链接的“信息”页面。
Python 认为 Euler 存在身份问题(cmath 返回奇怪的结果)
我的代码: 导入数学 导入数学 print "E^ln(-1)", cmath.exp(cmath.log(-1)) 它打印什么: E^ln(-1) (-1+1.2246467991473532E-16j) 它应该打印什么: -1 (仅供参考,谷歌检查我的
我了解双精度的工作原理(指数、尾数、取决于值的精度,而不是完全准确的数字......),我目前正在写一篇关于这个主题的博客文章。 但使用时...
使用牛顿-拉夫森细化的 ieee_propose 库没有信号
我使用 ieee_propose 库并尝试进行牛顿-拉夫森细化。代码编译并模拟,但我没有收到任何信号。它与 ieee.float_pkg.all 库中的 float32 配合使用。 但是,我想要
我有一些带有浮点值的文件,我在弄清楚它们的确切编码时遇到问题。 我尝试了多种方法来转换为标准双精度值,但没有太多...
假设您有一个浮点类型的变量。 32 位或 64 位并不重要。 您将最大可表示值分配给变量。典型的编程语言有一个常数...
如果我有几个浮点数并尝试像这样对它们进行排序: fn 主() { 让 mut nums: Vec = vec![0.53, 3.18, 4.783, 9.0, -1.2, 0.0]; nums.sort(); println!(&q...
我的应用程序中有一些代表物理单位的类,例如温度。这些类能够拥有一些与之关联并更改的单位,例如 Celciu...
据我所知,由于IEEE754标准,用户输入的极大数字并不能精确地以二进制格式存储。当这种不精确存储的值被转换回十进制时......
我负责维护和开发一个应用程序,该应用程序严重依赖于使用智能手机设备中的 GPS 跟踪用户的驾驶路线。 问题 问题是...
我被分配了一些旧代码,当我阅读它时,我注意到它的形式如下: 低位浮动 = 1e-9; 高浮=1e9; 浮动低 B = 1e-9; 浮动高B = 1e9; 浮动低L = 1e-9;...
我注意到,在 C 中使用双复数时,当将具有负 0 虚部的实数传递给 carg() 时,会返回 -M_PI,而不是 0 或 M_PI。这是为什么?我发现...
我有一些 C++ 中的图像处理代码,它可以计算梯度并使用霍夫变换算法在其中找到直线。该程序使用浮点进行大部分计算...
升级 Fortran 编译器后的数值差异(Intel v11.1 至 v13.0)
背景: 我们只是尝试将 Intel Composer 安装从 2011 年升级到 2013 年,但我们发现虽然大多数结果没有变化,但也有一些发生了一些变化,有些变化很大。 ...
+0.0 和 -0.0 上的哪些运算和函数会给出不同的算术结果?
在 C 语言中,当支持 ±0.0 时,分配给 double 的 -0.0 或 +0.0 通常不会产生算术差异。 尽管它们具有不同的位模式,但算术上比较它们是相等的。 双zp...
Feldman 的软件假设(“通用数字”)与现有硬件浮点数的速度比较?
Michael Feldman 提议的假设(“通用数字”)实现似乎非常有趣。 有没有人执行过任何基准测试来比较他的实现(在软件中)与
我们有整数的 2 补码,它允许我们执行运算而不必担心符号。这对实施层面有很大帮助。 同样,我们有很多浮点数
如何在 C 中打印(即到标准输出)一个浮点数,而不在传递给 printf 时将其提升为双精度? 这里的问题是 C 中的可变参数函数将所有 float 参数提升为 dou...
如何以最高精度将 uint64_t 转换为 0 到 1 之间的双精度/浮点型 (C++)?
我正在编写一个基于无符号整数的图像类。我目前正在使用 uint8_t 和 uint16_t 缓冲区来处理 8 位和 16 位 RGBA 像素,并且要从 16 位转换为 8 位,我只需采取 t...
为什么 gcc 将看似相等的浮点值与“-fexcess- precision=standard”进行比较?
看这个片段: int main() { 双 v = 1.1; 返回 v == 1.1; } 在 32 位编译上,如果指定 -fexcess- precision=standard,则该程序返回 0。没有它,程序...
我有一个Python Decimal(货币金额),我想将其四舍五入到小数点后两位。我尝试使用常规 round() 函数来执行此操作。不幸的是,这会返回一个浮点数,这使得它