floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

tf.round（）到指定的精度

tf.round（x）将x的值舍入为整数值。是否有任何方法可以舍入到3位小数位？

tensorflow floating-point rounding precision

回答 1 投票 5

将负面科学记数法1.3E-2转换为浮动？

据我所知，我可以将科学记数法中的数字转换为浮点数，如下所示：>>> x = 1.3e8 >>> float（x）130000000.0然后，为什么我不能用...做同样的事情

python floating-point scientific-notation

回答 3 投票 0

嵌入式应用程序的浮点库

我正在为Cortex-M3开发程序。它没有浮点协处理器。标准C库可以模拟浮点运算，但由于它的大小，我不使用它。有什么好处......

c embedded floating-point

回答 8 投票 3

Java：添加/减去Math.ulp（）与Math.nextAfter（）

我正在尝试更详细地了解Java中的浮点运算。如果我正确阅读文档，则对于任何给定的双x，以下内容成立：x - Math.ulp（x）== Math.nextAfter（x，...

java floating-point

回答 2 投票 12

Python：Float或Double

我需要使用struct模块在Python中打包数字。当我打包它时，我想检查一个数字是浮点还是双数。我怎样才能做到这一点？有没有内置函数，或者我需要写一个？要么 ...

python types floating-point double

回答 1 投票 2

JS中整数除法的精确性

如果a和b是小于Number.MAX_SAFE_INTEGER的正整数，并且a可以被b整除，那么它是否保证console.log（a / b）将输出一个整数（而不是，例如，以...结尾的数字）

javascript floating-point precision division

回答 1 投票 1

将C ++中的浮点数舍入到一个小数位

我有一个c ++的浮点数，数字可以是不同的形式，例如： 355.5或9.9（这是测试代码的输入）。我有一个函数，它是float return_max（angle_set_t * angles）{...

c++ floating-point

回答 5 投票 2

在C中识别和分配+ NaN和-NaN

我必须在float中输入+ NaN或-NaN并转换为另一个人工浮动形式，称为tinyfp（1个符号位，3个指数位，4个小数位），或者在tinyfp中输入...

c floating-point nan

回答 3 投票 0

为什么math.h中的cos函数比x86 fcos指令快

math.h中的cos（）运行速度比x86 asm fcos快。下面的代码在math.h中的x86 fcos和cos（）之间进行比较。在此代码中，100万次asm fcos花费150ms; 1000000次cos（）......

c assembly x86 floating-point x87

回答 1 投票 1

为什么浮点数不准确？

为什么有些数字在存储为浮点数时会失去准确性？例如，十进制数9.2可以精确表示为两个十进制整数（92/10）的比率，两者都可以...

floating-point language-agnostic precision

回答 6 投票 168

C ++中浮点数据类型的精度

为什么浮点数据类型的精度与其大小成正比？例如：std :: cout << sizeof（float）<<“\ n”; //这在我的机器上给出4“debian 64 bit”和“gcc 6.3 ....

c++ gcc floating-point precision long-double

回答 3 投票 2

Python浮动到int转换

基本上，我将float转换为int，但我并不总是有预期的值。这是我正在执行的代码：x = 2.51 print（“--------- 251.0”）y = 251.0 print（y）print（int（y））print（“--- ...

python floating-point int

回答 5 投票 60

如何在Haskell中产生无穷大？

类似于如何在Haskell中生成NaN ...在C中，有一个由math.h定义的INFINITY宏。再次，在http://hackage.haskell.org/package/ClassyPrelude-0.1/docs/Prelude-Math.html我可以......

haskell floating-point infinity

回答 1 投票 3

floating-point 相关问题

最新问题