floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

我在Ubuntu 14.04下使用Fortran 90模型。 gfortran 95 编译器 (gfortran 4:4.8.2-1ubuntu6) 和 gcc 4:4.8.2-1ubuntu6 由 Ubuntu 软件中心安装。运行模型后，我得到了

floating-point fortran gfortran

回答 3 投票 0

使用长度为2的数组或者使用对象包裹两个float来提高效率？

我正在写一个需要高效率的应用程序。这是一个不断处理浮动的应用程序。我被告知要避免常量（静态最终字段）。所以基本上我有一个这样的方法：

java arrays floating-point wrapper

回答 1 投票 0

使用约翰逊算法重新加权时的浮点误差

我正在使用约翰逊算法来检测给定图中的负循环。我遇到的问题是，当在虚拟节点上运行 Bellman-Ford 时，每次权重更新都是浮点

floating-point

回答 1 投票 0

为什么在编码求幂时使用值或变量时会得到不同的结果？

下面的代码给出了不同的输出，我不知道为什么。我有基本的编程知识，所以如果它很明显，请原谅我。数字=-0.8 打印(-0.8**-0.8) 打印(Num**Num) 输出： -1.

python variables floating-point exponent negative-integer

回答 2 投票 0

T=s1/(v1+k)+s2/(v2+k)+s3/(v3+k)..+vn/(sn+k) 如果我知道除了 k 之外的所有内容，我怎样才能找到它？ n (1 ≤ n ≤ 1000) t (1 ≤ t ≤ 10^6) s (1 ≤ s ≤ 1000) v (|v| ≤ 1000) 我应该如何编写代码以便它

c math floating-point double mathematical-optimization

回答 1 投票 0

为什么这段代码会产生不同的输出？（python）

下面的代码给出了不同的输出，我不知道为什么。我有基本的编程知识，所以如果它很明显，请原谅我。数字=-0.8 打印(-0.8**-0.8) 打印(Num**Num) 输出： -1.

python variables floating-point exponent negative-integer

回答 1 投票 0

IEEE 乘法与2 的幂相乘吗？

请确认我对IEEE浮点数的理解。我相信如果我有两个数字： a = 2^ea × ma ← "数学 ×" b = 2^eb × mb 那么他们的乘积 a * b 与 ((a * ...

floating-point bit-manipulation ieee-754

回答 1 投票 0

在c++中将浮点转换为字符串后丢失精度[重复]

我已将字符串值转换为浮点数并尝试为其设置精度。设置精度后，我得到的值被截断。 #包括 #包括在...

c++ string floating-point precision

回答 1 投票 0

处理整数和浮点乘法中的上溢和下溢

我正在处理一个问题，我有一个巨大的 16 位有符号整数集合。我必须将每个乘以 double 类型的常数因子，然后将其转换回整数类型。我需要...

floating-point integer overflow multiplication underflow

回答 2 投票 0

将 char 数组转换为 float 时出现意外问题

我有一个char数组，需要将其转换为float。我有两个 16 位值： A = 7C37 B = 428B 它们需要像 42 8B 7C 37 一样排列来代表浮点数中的 69.743，但我有

c floating-point type-conversion

回答 1 投票 0

“浮点”与“双精度”精度

代码浮动x = 3.141592653589793238；双 z = 3.141592653589793238； printf("x=%f “， X）; printf("z=%f ”，z）； printf("x=%20.18f “， X）; printf("z=%20.18f ”，z）；会给你输出 ...

c floating-point

回答 5 投票 0

单精度浮点数在零附近时的近似分辨率是多少

我将许多经度和纬度存储为双精度，我想知道是否可以将它们存储为浮点数。要回答这个问题，我需要知道单个

c types floating-point double resolution

回答 4 投票 0

Lua：从 float 转换为 int

尽管Lua不区分浮点数和整数，但在某些情况下你想使用整数。如果您...

lua floating-point

回答 5 投票 0

python - 从 Tiff 文件读取浮点值

我需要使用具有浮点值的 32 位 tiff 文件。它是一个特殊文件，包含 4 个图层，其中包含来自深度测量相机的浮点值。我已经尝试过 imageio，