floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

我有一个c ++的浮点数，数字可以是不同的形式，例如： 355.5或9.9（这是测试代码的输入）。我有一个函数，它是float return_max（angle_set_t * angles）{...

c++ floating-point

回答 5 投票 2

我必须在float中输入+ NaN或-NaN并转换为另一个人工浮动形式，称为tinyfp（1个符号位，3个指数位，4个小数位），或者在tinyfp中输入...

c floating-point nan

回答 3 投票 0

math.h中的cos（）运行速度比x86 asm fcos快。下面的代码在math.h中的x86 fcos和cos（）之间进行比较。在此代码中，100万次asm fcos花费150ms; 1000000次cos（）......

c assembly x86 floating-point x87

回答 1 投票 1

为什么有些数字在存储为浮点数时会失去准确性？例如，十进制数9.2可以精确表示为两个十进制整数（92/10）的比率，两者都可以...

floating-point language-agnostic precision

回答 6 投票 168

为什么浮点数据类型的精度与其大小成正比？例如：std :: cout << sizeof（float）<<“\ n”; //这在我的机器上给出4“debian 64 bit”和“gcc 6.3 ....

c++ gcc floating-point precision long-double

回答 3 投票 2

基本上，我将float转换为int，但我并不总是有预期的值。这是我正在执行的代码：x = 2.51 print（“--------- 251.0”）y = 251.0 print（y）print（int（y））print（“--- ...

python floating-point int

回答 5 投票 60

类似于如何在Haskell中生成NaN ...在C中，有一个由math.h定义的INFINITY宏。再次，在http://hackage.haskell.org/package/ClassyPrelude-0.1/docs/Prelude-Math.html我可以......

haskell floating-point infinity

回答 1 投票 3