floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

分配两个双打保证产生相同的位集模式？

这里有几篇关于浮点数及其性质的帖子。很明显，必须始终谨慎地比较浮点数和双打数。要求平等也已经讨论过......

c++ floating-point language-lawyer

回答 2 投票 5

如何从mysqldump插入浮点数

我有来自FirebirdSQL的sql dump文件。看起来与从MySQL（MariaDB）导出相同。在所述文件中有表创建语句，其中之一如下：CREATE TABLE VALIORS（....

mysql floating-point numbers mariadb

回答 1 投票 1

为什么在将SQL Real转换为Numeric时，规模会略微增加？

我在SQL中的Quantity字段中将值（0.15）存储为Real数据类型。只是玩，当我作为数字转换时，缩放有一些非常小的变化。我不确定为什么会这样，而且......

sql floating-point precision sqldatatypes

回答 1 投票 0

分割后如何舍入范围内的数字（10.25到11）？ [重复]

对于学校项目，我需要计算闰年。问题是，我需要围绕int。例如，有人出生于1961年。两年之间;年间=出生年份 - 1918年;双...

c++ floating-point rounding

回答 4 投票 -4

python中的负零

我在python的输出中遇到负零;它的创建例如如下：k = 0.0 print（-k）输出为-0.0。但是，当我将-k与0.0进行相等性比较时，它会产生True ....

python floating-point floating-accuracy zero

回答 5 投票 46

我如何强制划分为浮点？分部继续向下舍入到0？

我有两个整数值a和b，但我需要它们的浮点比率。我知道a <b我想计算a / b，所以如果我使用整数除法，我将总是得到0，余数为a。 ...

python floating-point integer division python-2.x

回答 11 投票 681

在Pandas中将浮动转换为int？

我一直在处理从CSV导入的数据。 Pandas将一些列更改为float，所以现在这些列中的数字显示为浮点数！但是，我需要将它们显示为......

python pandas floating-point integer dataset

回答 9 投票 162

双数字的表示

在8位表示中，我们知道数字4存储为00000100，数字-4存储为11111100.但数字4.6如何存储在双精度数中？

floating-point double bit-representation

回答 1 投票 0

向量双重双浮点算法

存在双精度浮点不足够的工作负载，因此需要四倍精度。这很少在硬件中提供，因此解决方法是使用双倍，...

floating-point double vectorization precision

回答 1 投票 1

PI和浮点数的准确性

Pi的单/双/扩展精度浮点表示精确到小数位数？

floating-point precision floating-accuracy

回答 10 投票 11

C float初始化结果是意外的

Visual Studio 2019社区浮点变量不是我初始化它的。我希望避免截断，使其不那么精确。这不是“可控的”吗？试图强制init在其他方面进行回合...

c floating-point initialization

回答 3 投票 -1

如何在MATLAB中更改浮点运算的舍入模式？

我想在MATLAB中更改浮点运算的舍入模式。根据IEEE 754-2008，有五种舍入策略：舍入到最近，连接到最近的舍入，绑定...

matlab floating-point rounding

回答 1 投票 6

在Python中截断浮点数

我想从浮点数中删除数字，以便在点后面有一个固定的位数，如：1.923328437452 - > 1.923我需要作为字符串输出到另一个函数，而不是打印。我也想......

python floating-point

回答 28 投票 90

原始浮点值如何为-0.0？那是什么意思？

为什么原始浮点值可以是-0.0？那是什么意思？我可以取消该功能吗？当我有：float fl;然后fl == -0.0返回true，fl == 0也是如此。但是当我打印它时，它......

java floating-point

回答 5 投票 50

为什么在大型浮子上添加一个小浮子只是放下一个小浮子？

我说：浮动a = 3 //（gdb）p / fa = 3浮动b = 299792458 //（gdb）p / fb = 299792448然后浮点数= a + b //（gdb）p / f sum = 299792448我认为它有事情要做......

c floating-point

回答 3 投票 5

只读文本文件中指定行中的数字

我试图从文本文件的第18行和第19行读取两个浮点数并找到它们的平均值。请仅查看由#########分隔的代码部分。该文件混合了单词和数字，......

python file floating-point readfile

回答 2 投票 0

C＃如何评估悬停在中间窗口和中间窗口上的浮点数与编译后的浮点数？

我在字典中存储双打时看到了一些奇怪的东西，我对此感到困惑。这是代码：Dictionary a =新词典（）; ...

c# math floating-point

回答 4 投票 7

什么MySQL数据类型应该用于纬度/经度8位小数？

我正在使用地图数据，纬度/经度扩展到8位小数。例如：纬度40.71727401经度-74.00898606我在Google文档中看到使用：lat FLOAT（10，...

mysql types floating-point

回答 8 投票 203

java中double的数学表示

我想指定一个完全覆盖double / float数字范围的集合。对于Integer来说，它非常简单，因为它们都是从Integer.MIN_VALUE到Integer.MAX_VALUE的自然数，所以......

java math floating-point

回答 3 投票 2

带有后缀'f'的双常量用法[重复]

double f_64 = 3.35f; double f1_64 = 3.35;如果使用后缀'f'会有什么影响？使用在线FPU编译器，十六进制结果如下所示带后缀f - 0x400ACCCCC0000000，没有...

c floating-point double

回答 1 投票 0

floating-point 相关问题

最新问题