floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

sys.float_info 是特定于机器的吗？

我想知道 sys.float_info.max/ sys.float_info.min 是否是在所有机器上都相同的固定值，还是取决于机器的内存或其他因素（并使该值

python floating-point

回答 1 投票 0

为什么DPD、Decimal64等没有像浮点数那样有CPU级别的支持？

在存在 Decimal 的语言（C#、Python）中，它比 float/double 慢，因为硬件层面不支持它。那么为什么不使用DPD（密集十进制）、BID（二进制整数十进制）...

floating-point computer-science cpu-architecture ieee-754 dpd

回答 1 投票 0

为什么使用 std::pow 会得到意外的计算结果？

我正在运行以下代码来计算-1.9 * 10。 #包括 #包括 #包括 #包括 #包括使用命名空间 std...

c++ floating-point

回答 1 投票 0

如果由 float 构造，小数移位的行为会很奇怪

考虑以下Python代码：从十进制导入十进制 d = 小数（“1.23”） print(f"{d = }, {d.shift(1) = }") 当我在 Python 3.12.4 中执行它时，我得到以下输出： d =

python floating-point decimal shift

回答 1 投票 0

MySQL中double和float数据类型的最大精度是多少

在 MySQL 中，当您定义 double 或 float 时，您定义的精度如 double(10,0)。我还注意到您可以在没有精度的情况下定义这些类型（我认为这意味着最大可能的 va...

mysql floating-point double sqldatatypes

回答 1 投票 0

符号会影响浮点数的精度和准确度吗？

在浮点运算中，如果两个数字具有相同的二进制表示形式，那么对这些数字执行的任何操作的结果都应该相同，并且使用 == s 进行相等比较...

c++ floating-point precision

回答 1 投票 0

如何从头开始编写 std::floor 函数[重复]

我想知道如何编写自己的下限函数来向下舍入浮动。是否可以通过将表示逗号后数字的浮点位设置为 0 来实现此目的？如果是的话，那...

c++ floating-point bit-manipulation

回答 5 投票 0

如果值符合尾数，可以安全地假设 32 位浮点数可以直接相互比较吗？

在关于查找整数是否是完美平方和的 leetcode 问题中，使用浮点数而不是整数会带来更多的加速（“完美平方”问题）。可以安全地假设...

c++ floating-point integer comparison

回答 1 投票 0

static_cast<uint32_t> 对于非 const/constexpr 浮点返回 0，保持 2^32 -1 (UINT32_MAX)，但当浮点为 const/constexpr 时返回 UINT32_MAX

我在尝试将一段代码放入模板函数中时遇到了问题。该代码基本上执行钳位。下面是代码的可重现版本。 #包括 ...

c++ templates floating-point constexpr static-cast

回答 2 投票 0

为什么 numpy float32s 正确返回低于 float32 最小值的数字？

IEEE-754 32位浮点数可以存储的最小数字是2^-126 ~ 1.18e-38。为什么我会得到以下输出？打印（np.float32（1e-39）） > 1e-39 通过实验，看起来

python numpy floating-point

回答 1 投票 0

为什么我们需要 IEEE 754 余数？

我刚刚读了这个主题（尤其是最后的评论）。然后我想知道，为什么我们真正需要这个是为了给剩下的。但似乎没有多少人“在谷歌上”感兴趣......

floating-point modulo ieee-754

回答 2 投票 0

让 0.01 浮点数发挥作用

我有这个函数可以在钱数组中返回钱。但不需要0.01。我知道这是因为0.01不能精确地以二进制代码传输。但我只想让它折扣0.01。我是...

c floating-point

回答 2 投票 0

如何在python中生成两个精度的浮点随机数

我想生成一个具有两个精度的浮点随机数。例如：2.54 如何在Python中更改uniform(a, b)。

python random floating-point

回答 3 投票 0

如何在Python中使用step获得随机浮点数

还在想Python中是否有一个函数可以用step获取随机浮点值？与 randrange(start, stop, step) 类似，但适用于浮点数。

python random floating-point

回答 2 投票 0

如何生成随机浮点数？

我想在python中生成0到1之间的随机数，但符号后只得到2个数字。例子： 0.22 0.25 0.9 我搜索了很多来源但没有找到解决方案。你能帮我吗？

python random floating-point

回答 3 投票 0

Unity 中 Vector2 和 Vector3 上 0f 和 0 的区别

最近开始学习Unity教程，角色控制器的脚本如下： Vector2 输入向量 = new Vector2(0, 0); if (Input.GetKey(KeyCode.W)) { 输入向量.y = +1;...

c# unity-game-engine floating-point

回答 1 投票 0

在 Java 程序运行中强制执行 strictfp 行为

有没有办法告诉 Java VM 在所有浮点运算中强制执行 strictfp 行为，无论代码是否使用 strictfp 修饰符？我一直在寻找 -X 选项...

java floating-point strictfp

回答 1 投票 0

为什么 h = FLT_MIN 的差商总是等于 0？ FLT_MIN 是否迷失在浮动错误中？

我正在尝试使用差商找到贝塞尔曲线的斜率。差商为： ( f(x + h) - f(x) ) / h 在微积分中，我们通常使用极限，假设 h 是无限的......

c++ graphics floating-point limit calculus

回答 1 投票 0

Pandas 从数据框中的浮点数获取小数部分

如何从数据帧中的浮点数（float64）中提取小数部分？（这是一个很常见的场景，但我在 StackOverFlow 中找不到解决方案）注意：小心196.09，我需要09，而不是...

python-3.x pandas dataframe floating-point

回答 4 投票 0

为什么 printf 不打印变量传递的浮点数？

原因如下： int 主函数（无效） { 双 b = 11/2；双a=2； printf("%lf ”，a+b)； printf("%lf ”，b)； } 分别打印 7.000000 和 5.00000...

c floating-point integer printf

回答 1 投票 0

floating-point 相关问题

最新问题