double 相关问题

Double是一种原始数据类型,用于存储保持双精度浮点(通常为64位)的小数。

但是,当我在替补中玩耍时,我对这种行为感到困惑:

要交叉检查自己,我使用python repp来做同样的事情,在得到预期的结果:

回答 1 投票 0

nsnumbers及其价值表示问题[重复]

解释为什么这不是尖锐的问答! 我遇到了与Objective-C次要实现有关的问题,NSNUMBER类型具有不同的浮点精度...

回答 1 投票 0

如何在C#中反转双[,] 我正在制作一个程序,我需要在其中计算线性回归,但是我陷入了矩阵的反转。 我有 double [,]位置= new double [3,3]; 然后被数字填充,但是...

然后,然后填充了数字,但是我不知道如何像线性代数一样对其计数逆矩阵进行计数。 我在互联网上搜索了一个解决方案,但是有一些矩阵类我不知道如何将我的

回答 2 投票 0



双打模式

我做错了什么,还是 VBA Mod 运算符实际上不适用于双精度之类的浮点值? 所以我总是假设 VBA Mod 运算符可以与 Doubles 一起使用......

回答 6 投票 0

为什么 Math.pow(10, -4) 在 JavaScript 和 C# 中产生不同的结果?

我注意到 Math.pow(10, -4) 的结果在 JavaScript 和 C# 之间有所不同。 JavaScript 数学.pow C# Math.Pow 在 JavaScript 中,结果似乎表示为近似值,可能是由于

回答 1 投票 0

如何以双精度打印?

我对 C 完全陌生,我正在尝试完成一项作业。练习是打印 tan(x),其中 x 从 0 递增到 pi/2。 我们需要以浮点型和双精度型打印它。我写了一个程序

回答 2 投票 0

为什么没有比符号和幅度更好的浮点数表示方法?

我们有整数的 2 补码,它允许我们执行运算而不必担心符号。这对实施层面有很大帮助。 同样,我们有很多浮点数

回答 3 投票 0

ADF 复制活动正在将 adx 中的双列设置为 1.7976931348623157E308 值的“无穷大”

我们正在尝试将增量转换为 adx,其中增量列为双精度类型,其中的数据为“1.7976931348623157E308”,这是双精度最大值,并使用我们需要的复制活动...

回答 1 投票 0

使用 std::bitset 进行双重表示

在我的应用程序中,我试图显示双变量的位表示。 它适用于较小的双变量。不适用于 10^30 级别。 代码: #包括 #包括<

回答 2 投票 0

C++ double 类型:如果与之前设置的值进行比较,则 == 比较是否有效

我的意思是:我有一种情况,我在 double 类型的结构中有两个字段,两个字段都可以通过一些评估设置在那里,但在某些情况下,它们中的第二个可以相等......

回答 1 投票 0

从 .NET Framework 4.7.2 移植到 .NET5.0 后如何避免“-0”作为 double.ToString() 结果?

我正在将 .NET Framework 4.7.2 Visual Studio 项目移植到 .NET5.0,当值为负且接近于零时,我遇到了 double.ToString 的不同行为。 例如,做...

回答 3 投票 0

将整数类型转换为 double 时,使用 (double) 与乘以 1.0 之间有什么区别?

我想知道使用 double 将整数转换为 double 与将整数乘以 1.0 之间有什么区别 整数a = 4 整数 b = 3 双 c = 1.0 * a / b 双 d =(双)a...

回答 1 投票 0

将双精度数限制为小数点后三位

这就是我想要实现的目标: 如果双精度数的小数位数超过 3 位,我想截断第三位以外的所有小数位。 (不要圆形。) 例如:12.878999 -> 12.878 如果双哈...

回答 9 投票 0

将货币金额转换为美分,无需经过浮点数

考虑这个函数: 函数 DollarsToCents(美元: 货币): 整数; 开始 结果 := Trunc(美元 * 100); 结尾; 表达式 $ * 100 将转换为扩展,我相信,...

回答 1 投票 0

防止 double.Parse 删除小数点后的尾随零?

当使用 double.Parse 时,它似乎喜欢从我正在转换的字符串中去掉任何尾随(无关紧要的)零。我希望 double.Parse 保留到小数点后的位置。对于e...

回答 4 投票 0

opencv/modules/core/src/matrix_wrap.cpp:72:错误:(-215:断言失败)0<= i && i < (int)vv.size() in function 'getMat_'

你能帮我解决这个错误吗? a 和 b 是 2-double 数组,由行和列定义。 a 是给定矩阵: cv::调整大小(a,b,cv::Size(newrows,newcols),0,0,INTER_CUBIC); 我可以编译,但是......

回答 1 投票 0

c# 中的除法没有按我预期的方式进行

我正在尝试写一些东西来让我的图像正确显示。 我有 2 个号码“breedtePlaatje”和“hoogtePlaatje”。当我加载这两个变量时,我得到的值是“800”和“500”,我期望......

回答 6 投票 0

在 Excel 单元格中读取双精度数(数字)

我正在从 Excel 工作表中读取值,并让用户检查这些数字/文本,如果正确则再次点击“保存”。它适用于任何文本和数字,除了我的折扣...

回答 1 投票 0

最新问题
© www.soinside.com 2019 - 2025. All rights reserved.