floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

为什么含0.7不等于0.7的浮点变量？ [重复]

当我运行此代码时，输出为B。我期望A。 #include int main（） { const float x = 0.7; 如果（x == 0.7）{ put（“ a”）; } 别的 { put（“ b ...

c floating-point
回答 1 投票 0

为什么1.0/100.0 == 0.1/10.0给出true？

python c floating-point
回答 2 投票 0

为什么3.0/100.0 == 0.3/10.0给出了True？ [关闭]

I得知，由于0.1和0.2，0.1 + 0.2！= 0.3均未准确地0.1和0.2。 但是，为什么以下Python代码打印出“ True”？ float1 = 1.0/100.0 float2 = 0.1/10.0 ...

python c floating-point
回答 2 投票 0

为什么3.0/100.0 == 0.3/10.0给出了True？ [重复]

I得知，由于0.1和0.2，0.1 + 0.2！= 0.3均未准确地0.1和0.2。 但是，为什么以下Python代码打印出“ True”？ float1 = 1.0/100.0 float2 = 0.1/10.0 ...

python c floating-point
回答 1 投票 0

我有以下我想排序的列表：

python list sorting floating-point
回答 2 投票 0

php sort float＆Integer值阵列中的rsort（）[重复]

php arrays sorting floating-point integer
回答 1 投票 0

使用uintptr_t或intptr_t

c pointers casting floating-point void-pointers
回答 1 投票 0

如何计算符号（a² -b * c） * sqrt（abs（a² -b * c））准确地使用浮点算术？

问题 我想知道是否有一种数字准确的计算方法 符号（a² -b * c） * sqrt（abs（a² -b * c）） 带有浮点算术，因为它遭受了（从大多数到le ...

floating-point precision numeric floating-accuracy
回答 0 投票 0

认为，一系列浮点数将靠近茉莉花

expect(myArray).toEqual(expectedArray);

javascript arrays floating-point jasmine
回答 2 投票 0

使用bash printf降低了小数位置的数量，而无需舍入

bash floating-point printf
回答 3 投票 0

是所有英特尔/AMD CPU的浮点数学确定性？

x86 floating-point x86-64 precision sse
回答 1 投票 0

why does it give me "inf" and just same value when increasing floating value?

i was just testing maximum representation of float in c on mac pro. my program looks like this. And there are two types of program which increase by multiply and adding. ＃包括 int main(v...

c floating-point
回答 3 投票 0

ISMATH.SQRT（X）和MATH.POW（x，0.5）等效？ 在eCmascript中，鉴于非负有有限的双X，以下断言总是正确的吗？ Math.sqrt（X）==== MATH.POW（x，0.5） 我知道Math.sqrt（）和Math.pow（）都是实现-

，以下断言始终是正确的吗？

javascript floating-point ieee-754 math-functions
回答 1 投票 0

IFx * y≠2ⁿ，是否遵循x * y =（（x * y） / y） * y在IEEE 754语义下？

floating-point ieee-754
回答 0 投票 0

CastFloat to Int具有一致的结果累积平台/编译器/CPUArchs

c++ gcc floating-point rounding precision
回答 1 投票 0

杰克逊（Jackson jackson似乎在我试图序列化为JSON的任何数据结构中都将所有浮子施加到双打中。有什么办法避免这种行为吗？ float f = 50.1f; system.out.println（f）; ...

Float f = 50.1f; System.out.println(f); // 50.1 System.out.println(f.doubleValue()); // 50.099998474121094 System.out.println(new ObjectMapper().valueToTree(f)); // 50.099998474121094 -- how to prevent this?

java floating-point jackson
回答 2 投票 0

x * y =（（x * y） / y） * y在IEEE 754语义上总是如此？

floating-point ieee-754
回答 1 投票 0

Pytorch卷积网络：浮点类型的问题

python pytorch floating-point
回答 1 投票 0

如何在编译时间正确确定_float16的支持？ 我正在尝试在编译时间确定_float16的支持： #define __stdc_want_iec_60559_types_ext__ #include

我试图在编译时确定支持：

c gcc floating-point clang half-precision-float
回答 2 投票 0

LUA-包装IEEE754单精制浮点数

五元（23位），一个

floating-point lua ieee-754 pack
回答 1 投票 0
最新问题
© www.soinside.com 2019 - 2025. All rights reserved.