floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

当输入值是Float类型而不是Haskell中的Integer类型时，如何创建错误消息

对于学校作业，我被赋予了创建一个函数的任务，该函数确定一年是否是闰年。以下是我到目前为止的情况。例如，当我输入“days_in_Year 2018”时......

haskell error-handling floating-point integer

回答 1 投票 -1

工作精度如何在Javascript中浮动数字？

大家好我正在研究关于天文计算的javascript文件，所以我需要更多的精确度。我对每一行都有很多操作，我想要更精确的结果（也是十或二十...

javascript floating-point precision floating-accuracy

回答 2 投票 1

Java在String中搜索浮点数

假设我有这样的字符串：eXamPLestring> 1.67 >> ReSTOfString我的任务是从上面的字符串中仅提取1.67。我认为正则表达式是有用的，但我无法弄清楚如何编写propper ...

java regex floating-point

回答 7 投票 2

对于IEEE 754浮点，double z = x-y是否保证z + y == x？

我有一个问题可以简化为这个问题陈述：给定一系列双精度，其中每个都在[0,1e7]范围内，修改最后一个元素，使得数字之和等于......

c# floating-point ieee-754

回答 3 投票 4

需要一个随机数发生器

我需要生成介于-0.5和0.5之间的随机数。我已经尝试过用户Anthony Pegram的堆栈溢出解决方案。我对它进行了一些修改（我需要在...中调用和使用的方法）

c# random floating-point double

回答 2 投票 0

使用长数字的JSON解组会给出浮点数

我正在使用golang编组和解组JSON，当我想用数字字段进行操作时，golang会将其转换为浮点数而不是使用长数字。我有 ...

json floating-point go marshalling

回答 2 投票 46

在C中将Float转换为String，然后在Python中读取它

我正在将一个float变量转换为C中的字符串，并使用Linux中的命名管道将其发送到Python。问题是我在Python端读取了乱码并带有真正的价值。 C ...

python c string floating-point type-conversion

回答 1 投票 0

JavaScript中的BigDecimal

我是JavaScript的新手（我来自Java背景），我正在尝试用少量资金进行一些财务计算。我原来的目的是：

javascript floating-point bigdecimal

回答 1 投票 10

如何获得浮点无穷大，乘以零得到零

如何获得足够小的无穷大，其零产品为零？我正在使用Python的整数编程求解器，我的一些变量有无限的成本。我不能用float（'inf'）......

python floating-point infinity

回答 3 投票 5

浮点异常不可捕获？

我有浮点异常的问题。当我除以零时，我得到了这个例外。我试图抓住它，但互联网上的解决方案对我不起作用。＃包括 ...

c++ exception floating-point

回答 1 投票 0

PHP is_numeric vs~（〜（float）$ value）性能和功能

最近我想尽可能快地在数组中搜索数值（整数，双数和带指数表示法的数字）。我最初使用'is_numeric（）'，因为我们经常使用它作为我们的goto ...

php floating-point bitwise-operators

回答 1 投票 1

在2D Vector C ++中生成随机数

我在C ++中实现了一个简单的2D矢量类，它初始化具有给定大小（行数和列数）的2D矢量以及是否随机化该值。我也实现了方法......

c++ vector random printing floating-point

回答 1 投票 0

在Matlab中进行浮点比较的最佳实践是什么？

显然，浮动比较总是很棘手。我在我的（科学）代码中有很多断言检查，所以我经常要检查总和是否相等，以及类似的问题。有快速-...

matlab floating-point

回答 5 投票 14

我想在浮点后存储一位数

如果我用户输入5.123我怎么能把它存储在java中的内存中如java所示注意：我不需要显示它我只想在浮点数后存储一个数字!!例如：6.334213 => 6.3 7.23947 => ...

java floating-point

回答 3 投票 -1

浮点异常C.为什么？

我在C中写了一个关于收银机流量的简单代码，但我总是得到“浮点异常”。我知道，它发生在溢出并除以零，但我认为在这种情况下不包含......

c floating-point

回答 1 投票 0

.NET中的decimal，float和double之间的区别？

.NET中的decimal，float和double有什么区别？什么时候会有人使用其中一种？

.net floating-point double decimal

回答 16 投票 1939

我怎样才能检查 - 并使用fmod（浮点数）得到余数？

我的目标是在分割2个浮点数时检查是否还剩下剩余部分，如果存在，则将剩余部分返回给用户。鉴于以下代码，我原本预计fmod（2,0.2）将为0，...

c++ floating-point fmod

回答 1 投票 0

解析字符串浮动的python标准是什么？

对于相对简单的浮点数，数值精度足以准确地表示它们。例如，17.5等于17.5对于更复杂的浮点数，例如17 ....

python floating-point

回答 3 投票 3

C＃打印浮点值为-0.0错误

Console.WriteLine（“0.0 float：0x00000000，{0}”，（float）0x00000000）; Console.WriteLine（“ - 0.0 float：0x80000000，{0}”，（float）0x80000000）; C＃为第一个打印0.0，而不是-0.0打印2 ....

c# printing floating-point format

回答 2 投票 0

将数字舍入到C中的2个小数位

如何将浮点数（例如37.777779）舍入到C中的两位小数（37.78）？

c floating-point decimal

回答 16 投票 189

最新问题

© www.soinside.com 2019 - 2024. All rights reserved.