floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

在 Python 中从二进制值创建浮点数

我目前正在开发一个项目，需要我修改浮点变量的位值。为此，我使用 struct 包来获取浮点型的二进制值作为字符串，如下所示：...

python floating-point

回答 2 投票 0

比较两个整数时，if 条件在 bash 脚本中无法正常工作

我是 bash 脚本新手，正在编写一个脚本来计算 CPU 使用率。目前，我正在计算 CPU 使用率并将其与预定义的阈值进行比较。然而，我的if条件...

linux bash floating-point compare

回答 3 投票 0

在 C 中将四个字节解析为浮点数

如何获取四个接收到的数据字节并将它们组装成浮点数？现在我将字节存储在数组中，即received_data[1] ...received_data[4]。我会...

c string parsing floating-point

回答 5 投票 0

为什么在二进制格式的 IEEE754 标准中，Round Nearest Ties Away 舍入模式是可选的？

引自 IEEE 浮点算术标准 (2008) 第 4.3.3 节本标准的实现应提供 roundTiesToEven 和三个定向舍入属性。十二月...

floating-point rounding ieee-754

回答 1 投票 0

如果值没有小数值，则将浮点类型列值转换为整数类型

这是我的代码 $data = DB::table('constructor_stands') ->join('constructors', 'constructors.constructorId', '=', 'constructor_stands.constructorId') ->选择('constructor_stand...

php laravel eloquent floating-point type-conversion

回答 2 投票 0

计算器怎么能显示这么多位数的PI？

我正在玩手机上的计算器，我发现我可以在那里看到任意位数的圆周率。我知道双精度浮点数的精度最高可达 16 位数字，所以我...

floating-point double calculator precision

回答 1 投票 0

将用户输入限制为小数点后两位时，处理浮点问题的最佳方法是什么？

我目前正在创建一个应用程序，允许用户输入重量并选择他们喜欢的单位（公斤和磅之间）。截至目前，数据库是用 Django 编写的，并存储每个用户 wei...

javascript floating-point precision

回答 1 投票 0

所有 C 编译器在将浮点转换为整数时都会隐式删除小数吗？

我注意到在 GCC 和 Clang 下，当我将 float 值转换为 int 时，后端会执行一些操作将真正的浮点数据转换为整数 - 小数部分被忽略，并且

c casting floating-point ieee-754

回答 2 投票 0

在 JavaScript 中，为什么零除以零返回 NaN，而任何其他除以零返回无穷大？

在我看来，代码控制台.日志(1 / 0) 应该返回 NaN，但它返回 Infinity。然而这段代码：控制台.log(0 / 0) 确实返回 NaN。有人可以帮我吗

javascript math floating-point nan infinity

回答 5 投票 0

计算两个浮点数之间的距离是否对称？

对于一个Java程序，我写了一个计算两个浮点数之间距离的方法。该方法对于输入顺序对称地工作是非常重要的。目前我正在使用...

java floating-point distance

回答 2 投票 0

将数字从 Excel 单元格转换为 IEEE 754 十六进制格式

最近，由于数字的 15 位有效数字显示限制，我一直在与 Excel 搏斗。我一直在寻找一种方法来显示 Excel 中包含的值的 IEEE 754 格式...

excel floating-point ieee-754 floating-point-conversion

回答 2 投票 0

两个“整个”双精度数的乘积能否始终正确表示？

这似乎是一个非常基本的问题，但我对浮点数的知识越来越模糊。假设我有两个双精度数（根据 IEEE 754），它们都精确地代表一个整数，例如......

floating-point precision

回答 1 投票 0

将字符串转换为浮点数而不丢失小数位

我有很多代表旋转值的字符串。这些字符串有 0 到 5 位小数。当将这些字符串转换为浮点数以将它们作为旋转值应用到游戏对象时，fl...

string unity-game-engine floating-point type-conversion rotation

回答 1 投票 0

如何处理非常小的分子的除法？

我正在开发一个 JavaScript 计算器，并面临除法运算的问题。当非常小的分子除以大的分母时，结果变为“0”。这不是

javascript math floating-point

回答 1 投票 0

Python 浮点格式 - 类似“g”，但数字更多

我使用“g”来格式化浮点值，但它对我来说切换到科学格式化太快了 - 在第 5 位数字处： >>> 格式(0.0001, "g") ‘0.0001’ >>> 格式(0.00001, ...

python formatting floating-point

回答 4 投票 0

在 SQL 或 Python 中模拟 CTCV_CONVERT_FLOAT_TO_DATE 函数

在我的 Snowflake 中，我们使用 sap 表作为数据源，在我们的 SAP 表之一中，我们以 0x1.34b049p24 格式存储值，等于 02/17/2023。现在问题出在 Snowflake 我...

floating-point snowflake-cloud-data-platform abap sap-erp

回答 1 投票 0

如何得到最小的数字A，即N倍于另一个数字B，以及更大或等于数字C

我想得到一个数字（floatB）的N倍的最小数字（floatA），并且这个数字必须大于或等于另一个数字（floatC），例如浮动_c = 20.0 浮动_b = 7.0 比数字...

floating-point precision

回答 1 投票 0

可以在闭区间[0.0,1.0]上生成随机浮点吗？

Go 的 rand.Float32() 和 rand.Float64() 在 [0.0, 1.0) 上的半闭区间生成随机浮点数。但是，我需要在两端闭合的间隔内生成的东西（即 [0.0...

go random floating-point

回答 1 投票 0

如何打印（二进制）文件中的半精度/bfloat16 值？

这是以下内容的变体：如何在shell中从二进制文件打印浮点值？在这个问题中，我们想要从二进制文件打印 IEEE 754 单精度（即 32 位）浮点值。现在

command-line floating-point binary-data half-precision-float

回答 2 投票 0

表示小于单精度最小值的数

我正在做我的硬件但卡住了。我需要计算出数字 2 * 2^{-151} 的单精度表示。我认为这是一个次正规/非正规化的数字，因此我需要设置 exp...

floating-point binary subnormal-numbers

回答 1 投票 0

floating-point 相关问题

最新问题