floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

如何在数据库中存储带小数为0的浮点数

我需要在数据库中存储汽车的引擎容量，我想添加如下：2.0,2.4,3.0等。如何存储2.0或3.0？我试过这个列类型：float，decimal，double，但是......

php database floating-point numbers

回答 2 投票 0

计算机中的最大实数是多少？由于is.finite在R中，我可以得到TRUE？

（添加了可重现的示例）我的64位操作系统和32位R中计算机中的最大正双（浮点）数是：.Machine $ double.xmax＃1.797693e + 308因此，以下是TRUE：is。 ...

r floating-point double max infinite

回答 1 投票 0

在python 2中舍入没有小数点的浮点值

问题是在使用Python 2对百分比值求和之后舍入结果值而没有任何小数。提供3个输入输入1（膳食成本）：10.25输入2（尖端百分比）：17 ...

python-2.7 floating-point

回答 2 投票 0

std :: remquo目的和用法？

std :: remquo函数的目的是什么？什么时候使用它而不是常规的std :: remainder函数？

c++ c c++11 floating-point c99

回答 2 投票 3

为什么Python的Decimal（）会稍微改变我传递给它的浮点数？

这更令人感兴趣。在我天真的时候，我不知道Decimal（）究竟应该如何使用，我认为当我做像Decimal（120.24）之类的东西时它会正常工作。但是，......

python floating-point

回答 2 投票 -1

Python楼层划分中的舍入错误

我知道在浮点运算中会发生舍入误差，但有人可以解释这个问题的原因：>>> 8.0 / 0.4＃如预期的那样20.0 >>> floor（8.0 / 0.4）#int也适用...

python python-2.7 python-3.x floating-point rounding

回答 5 投票 32

带浮点数的字符列不会转换为数字

我有两个变量，下面列出了str（）。我已经尝试了将这些列转换为数字的所有内容，但它们不会让步。 $ ASKPRICE_B_B：原子4,47 4,49 4，...

r floating-point type-conversion character

回答 2 投票 0

如何找到betareg包接受的最小浮点值？

我在R中进行β回归，需要0到1之间的值，排除端点，即（0,1）而不是[0,1]。我的数据集中有一些0和1值，所以我想将它们转换为...

r floating-point precision betareg

回答 1 投票 2

为什么MySQL将float 6.099999904632568截断为6.1

我知道浮点数是一个近似值，取决于你想要的精度。但是，我很困惑为什么它将6.099999904632568转换为6.1。为什么需要围绕它...

mysql activerecord floating-point

回答 3 投票 0

在保留顺序的同时将浮点转换为unsigned int

我在SO上找到了很多关于将float转换为int的答案。我只操纵正浮点值。我一直使用的一个简单方法是：unsigned int float2ui（...

c floating-point ieee-754

回答 3 投票 2

Python - 从请求获取十进制值并在MySQL中插入

我有一个带有博物馆表的MySQL数据库：+ ------------- + -------------- + ------ + --- - + --------- + ---------------- + |领域|输入|空|钥匙|默认|额外的| + ------------- + ----...

python mysql flask floating-point

回答 1 投票 0

php浮点数错误

我试图将php中的float值分配给我试过的变量，$ _web_lat = 18.501059; $ _web_long = 73.862686; echo $ _web_lat。'='。 $ _web_long; [解析错误：语法错误，意外'.501059'......

php floating-point

回答 3 投票 2

为什么有些数字印有小数位？

我正在尝试解决一个问题：你必须在C中创建一个显示序列的程序，如下例所示：I = 0 J = 1 I = 0 J = 2 I = 0 J = 3 I = 0.2 J = 1.2 I = 0.2 J = 2.2 I = 0.2 J = 3.2 ..... I = 2 J =？我= 2 ...

c for-loop floating-point formatting

回答 4 投票 -1

为什么即使提供确切的数据，FLOAT类型数据比较也不起作用

在具有相同值的实际表中SELECT * FROM float_value WHERE val = 49640.2473896214 - 无数据返回如果我将其四舍五入到总精度，则它将工作SELECT * FROM float_value WHERE ...

sql sql-server sql-server-2012 floating-point precision

回答 3 投票 1

为什么MSVS没有优化+0？

这个问题展示了一个非常有趣的现象：非规范化浮点数使代码减慢了一个数量级以上。在接受的答案中很好地解释了这种行为。但是，有......

c floating-point

回答 2 投票 48

Pandas to_numeric数值精度

前言我将通过说两件事来说明这一点：我是新的（呃）到python / pandas，并试图不重新发明轮子我已经阅读了pandas.to_numeric的文档我已经阅读了为什么浮点... 。

python r pandas numpy floating-point

回答 1 投票 2

浮点异常C ++为什么以及它是什么？

我正在为Euler项目问题 3构建一个程序，虽然这可能并不重要，因此我当前正试图使这个代码取一个数字并测试它是否是素数。接着 ...

c++ floating-point

回答 5 投票 29

.NET浮点表示在内存中

根据Jon Skeet的浮动文章，将符号位设置为1，其他所有设置为0仍然给出数字0.我不是100％确定符号位是第一位（如文章中所述）或.. 。

c# .net floating-point

回答 1 投票 1

给定数字的浮点分辨率

我想知道给定值附近浮点数的epsilon。的std :: numeric_limits :: epsilon（）只提供数字1.0，而我想...

c++ floating-point epsilon

回答 1 投票 1

发生无效浮点运算的SQL Server trig函数

我用合法的Lat / Long值调用此函数来尝试计算两点之间的距离。它完全适用于我所有积分的99.99％，但在这一点上，它是...

sql-server floating-point trigonometry

回答 1 投票 1

floating-point 相关问题

最新问题