rounding 相关问题

舍入数值意味着将其替换为大致相等但具有更短，更简单或更明确的表示的另一个值。

我对Python中的round函数或双精度数在Python中如何表示的理解有问题。当对有 do 的数字进行四舍五入时，我发现一个非常令人困惑的行为...

python double rounding rounding-error

回答 1 投票 0

我正在做除法并得到了想要的结果： iif(ReportItems!Textbox14.value <> 0, ((ReportItems!amount.Value / ReportItems!Textbox14.Value) * 100) , 0) 返回的值为 55.58866。 ...

reporting-services format rounding

回答 1 投票 0

等距图块地图未正确排列

我正在创建一个等距的Minecraft克隆，我的代码运行良好。我使用舍入函数来舍入玩家的位置，以便块捕捉到网格。该块的图像是 32x32 p...

python pygame rounding

回答 1 投票 0

将数字舍入和固定到特定端的算法

我正在寻找一种有效的算法，将整数值限制在一个范围内，同时还将其基数 10 端更改为多个可变长度端之一。这应该将一个值限制在...

algorithm go numbers rounding clamp

回答 1 投票 0

为什么 gcc -O1 会影响 std::rint()？

为什么下面的代码在使用 g++ -O1 编译时会产生 -1？我的gcc版本是13.2.1。 #包括 #包括 #包括使用命名空间 std； int主要...

c++ gcc floating-point rounding

回答 1 投票 0

如何精确舍入小数点后三位或更多位的数字？

我正在开发购物车系统，在计算过程中遇到了舍入某些金额的一些挑战。以下是我的购物车的详细信息。商品价格 = 0.99；商品数量...

javascript math rounding calculator

回答 1 投票 0

Smarty 中的回合显示错误结果

在我的 Smarty 3 模板中，我有以下代码： {$a=8.34} {$b=8.33} {$a-$b|回合：2} 预期结果是：0.01 但我收到这个：0.0099999999999998 有人知道如何解决这个问题吗？

smarty rounding

回答 1 投票 0

浮点序列化/解析舍入

我在内存中存储了以下浮点数（浮点数，而不是双精度数） 0b00111101111001000010000111001000 根据浮点转换器转换为 0.1113925576210021972656...

c++ floating-point rounding

回答 1 投票 0

不能使用double，不能使用int，我用什么来停止舍入？（Java）

我对java非常陌生，这是我目前拥有的实验室的描述：统计数据通常是通过不同数量的输入数据来计算的。编写一个程序，接受任意数量的非

java double average rounding rounding-error

回答 1 投票 0

（已解决）不能使用double，不能使用int，我用什么来停止舍入？（Java）

我对java非常陌生，这是我目前拥有的实验室的描述：统计数据通常是通过不同数量的输入数据来计算的。编写一个程序，接受任意数量的非

java double average rounding rounding-error

回答 1 投票 0

如何圆化视图的特定角？

我知道你可以使用 .cornerRadius() 来圆化 SwiftUI 视图的所有角，但是有没有办法只圆化特定的角，例如顶部？

user-interface rounding swiftui cornerradius

回答 11 投票 0

我收到错误 CS0236，我不知道该怎么办

嗨，我是 C# 的初学者，当我不断遇到这个问题时，我正在做一个学校项目。我试图将分数设置为玩家在该游戏中达到的最高分。我正在写c...

c# unity-game-engine rounding

回答 1 投票 0

Power BI 视觉效果中的舍入

下午好，不确定这是否可行，但我有一个相当大的数据集已导入到 Power BI 中。这是地方层面的，并且是不全面的。当我读完报告后，我...

database powerbi grouping rounding visualization

回答 1 投票 0

是否可以在Python中舍入为整数并删除数组中的小数点

生成数组的列表之间的运算结果四舍五入为整数后，有没有办法去掉小数点？我在 Jupyter 笔记本中使用 python。我应该使用一些东西吗

arrays python-3.x numpy rounding

回答 2 投票 0

两个 IEEE754 数字的舍入说明

最近我一直在为我的自定义语言创建一个标准库。该库包含一些软浮点功能，因为我的目标处理器没有 FPU。我不支持

floating-point rounding ieee-754 ieee

回答 1 投票 0

如何 std::round 加倍，但在中途情况下舍入为零？

我面临的情况是需要将 0.5 和 -0.5 舍入为 0。所以我检查了各种文档 - 通用 C++ 方法似乎总是与 0 相差 0.5。 https://en.cppreference.com/w/cpp/

c++ floating-point std rounding

回答 1 投票 0

C++ 舍入双半接近 0

我面临的情况是需要将 0.5 和 -0.5 舍入为 0。所以我检查了各种文档 - 通用 C++ 方法似乎总是与 0 相差 0.5。 https://en.cppreference.com/w/cpp/

c++ stl rounding

回答 1 投票 0

在 Java 中舍入浮点数时的奇怪行为

我需要实现一个小型度量转换器类，其主要任务是转换度量。例如，将米转换为英里。另一个验收标准是将结果四舍五入

java rounding

回答 1 投票 0

如何使用 BigDecimal ROUND_HALF_UP 向上舍入 1.4549999999999998？

我需要将 1.4549999999999998 这样的数字四舍五入到 1.46。我正在用 Groovy 编写并有以下方法。 def roundBigDecimal(bd_val, 尺度, roundingMode) { 断言 bd_val 实例

groovy rounding bigdecimal

回答 2 投票 0

在Python中使用f字符串动态地将浮点数格式化为可变小数位[重复]

我之前曾询问过在 Python 中使用 f 字符串进行格式化时动态调整浮点数中的小数位数。虽然我发现了解决动态方面的类似问题

python string python-3.6 rounding f-string

回答 1 投票 0

rounding 相关问题

最新问题