rounding 相关问题

舍入数值意味着将其替换为大致相等但具有更短，更简单或更明确的表示的另一个值。

STDEV Excel 到 PHP 的小数差异

我正在尝试在PHP中执行STDEV Excel的函数，但我得到了不同的结果，也许这只是与小数或四舍五入相关的东西，因为结果非常相似，但是当我尝试...

php excel rounding number-formatting stdev

回答 1 投票 0

在Delphi中舍入值时如何添加epsilon以避免结果不一致？

我在 Delphi 中遇到了舍入问题，其中非常接近中点的值（例如 21.499991254）有时会向下舍入而不是向上舍入，这可能会导致我的计算不一致...

delphi rounding

回答 1 投票 0

如果公式（总和小于30则向上舍入到30）

我需要一个excel公式。我的单元格当前具有以下公式“=SUM(G4/30)” 我想在该公式中添加一点，如果总和小于 30，那么我需要将其舍入...

excel if-statement formula rounding roundup

回答 1 投票 0

Python 将浮点数四舍五入到最接近的 0.05 或另一个浮点数的倍数

我想模拟这个功能。我想将浮点数舍入到最接近的 0.05 倍数（或者通常舍入到最接近的倍数）。我想要这个： >>> 圆_nea...

python floating-point rounding rounding-error

回答 5 投票 0

在 Python 中复制 VBA 的精确计算

我有 VBA 代码，需要用 Python 编写。我是 Python 新手，对此感到抱歉。子 cdec_test() Dim val1, val2, result1, result2, x1, x2 作为变体 val = CDec(5930 / 3000) 'val1 : 1.97666666...

python excel vba rounding precision

回答 1 投票 0

Python 中的隐式舍入？

我有一个代码，如下所示：特征=特征[25]#0.5243 值=值[25]#0.8594 数量=特征*值#0.4508979999999997 调度 = round(金额,8) #0.4509 为什么 round(amount,8) 只给出 f...

python rounding implicit

回答 1 投票 0

每个 SQL ROUND 函数都有一个“+ .0049”。。。为什么？

这本身不是问题。我们只是想理解我们继承的代码。在解决问题时，我们注意到使用 ROUND 函数的每一行都包含“+...

sql mysql rounding

回答 1 投票 0

Bash 带点舍入小数点后 2 位

我用了 printf "%0.2f " $myVar 方法显示小数点后两位，但它不适用于以点 (.) 作为小数点的数字，但适用于逗号 (,) 有人知道我应该做什么吗？呃...

linux bash printf decimal rounding

回答 2 投票 0

特定列四舍五入至小数点后两位[关闭]

我有一个这样的列表：条件 1 4 0.2343 条件2 10 1.765 条件3 8 1.9234 我试图将第三列中的值四舍五入到小数点后两位，这样它看起来像这样：条件1 4 0.24 条件2 10 1.77

awk rounding decimal-point

回答 1 投票 0

如何使用 NET Math.Round(<decimal>,<int>,MidpointRounding.AwayFromZero) 正确舍入

在 .NET 中，为什么 System.Math.Round(27.2351, 2, MidpointRounding.AwayFromZero) 产生 27.24 而不是 27.23？第三位数字是 5，所以我们检查第四位数字是否小于 5，所以结果应该是 2...

c# .net math decimal rounding

回答 3 投票 0

round 函数在四舍五入 2 位小数方面不一致

下面的代码取自我的程序。该块将这些 float64 列格式化为小数点后两位，但第 24-26 行实际上不会改变。这是一个最小的繁殖示例（我希望这是接受的......

python decimal rounding

回答 1 投票 0

使用舍入类型将数字四舍五入到小数点后两位

我和我的妻子在完成我们在线进行的 Python 课程的这项挑战时遇到了麻烦。老师说要将结果保留到小数点后两位，当我们观看视频时，她使用：

python rounding

回答 3 投票 0

如何在Python中四舍五入到小数点后两位？ [重复]

我正在尝试用Python计算硬件账单。无法弄清楚如何将数字四舍五入到小数点后两位。这是我到目前为止所拥有的。每次我尝试 round 函数时，它都不起作用并且......

python rounding

回答 2 投票 0

Python 中的舍入时间

在 Python 中对时间相关类型执行 h/m/s 舍入操作并控制舍入分辨率的优雅、高效且 Pythonic 的方法是什么？我的猜测是它需要...

python datetime time modulo rounding

回答 9 投票 0

JavaScript - 将 3 个数字转换为百分比，不会产生 100% 总计

我有一个场景，我有三个数字： 17 号 10 90 我需要将它们转换为完整的百分比值（以便添加后，总计如您所期望的 100%）。我有这个功能：功能

javascript math rounding percentage tofixed

回答 5 投票 0

浮点乘法中舍入是如何工作的？

float 0.7f 的准确值为 0.69999... 所以我认为 0.7f * 100f 的结果会低于 70，比如 69.99999... 但结果恰好是 70。浮点乘法涉及这样的吗

floating-point rounding multiplication floating-accuracy fixed-point

回答 1 投票 0

整个flutter项目中如何将所有数字四舍五入为2？

我正在开发一个带有银行号码的flutter应用程序，因此只需要两个十进制数字。有没有办法立即自动舍入整个项目中的每个数字？我们的想法是不...

flutter dart numbers rounding banking

回答 1 投票 0

Rust 中可以在编译时设置浮点舍入模式吗？

我想在 Rust 中使用区间算术，为此我需要向上或向下设置舍入模式。据我从一些搜索中了解到，设置舍入模式会影响

floating-point rust rounding

回答 2 投票 0

为什么使用任何内置函数不会将小数 0.5 舍入为 1？

我需要将每个小数值四舍五入为最接近的整数，任何小于 0.4 的值都四舍五入为 0，0.5 及以上的值四舍五入为 1。但是当我在 C++ 中尝试时，无论什么......

c++ rounding floor ceil

回答 1 投票 0

在java中将浮点值四舍五入到最接近的整数的最有效方法是什么？

我已经看到很多关于与舍入浮点值相关的SO的讨论，但没有考虑到效率方面的可靠问答。所以这里是：舍入最有效（但正确）的方法是什么

java optimization rounding floating-accuracy

回答 5 投票 0

rounding 相关问题

最新问题