floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

如何在Python中忽略输入结果中的特殊字符？

我是Python的初学者，我正在尝试编写将输入的数字添加到列表中的代码。 box = [int(x) for x in input("在此输入数字：").split()] box.sort(反向=Fa...

python list floating-point integer

回答 1 投票 0

VHDL 浮点乘法器

我正在用 VHDL 编写浮点乘法器。这是代码和测试平台。问题是我得到的大部分结果都是错误的。我在模拟中观察到它看起来像......

floating-point vhdl delay

回答 1 投票 0

线性插值公式的有界性

考虑以下线性插值的实现： lerp(x1, x2, y1, y2, x) = y1 * (x - x2) / (x1 - x2) + y2 * (x - x1) / (x2 - x1) x1 是真的吗<= x <= x2 implies y1 <= ...

floating-point

回答 2 投票 0

线性插值公式的有界性

考虑以下线性插值的实现： lerp(x1, x2, y1, y2, x) = y1 * (x - x2) / (x1 - x2) + y2 * (x - x1) / (x2 - x1) x1 是真的吗<= x <= x2 implies y1 <= ...

floating-point

回答 1 投票 0

浮点加法器/减法器 - 边界检查错误

我正在为浮点加法器/减法器编写代码。我有多个错误，所以我正在调试。此时，当尝试模拟时，我在代码下方收到错误： IEEE 图书馆；使用 IEEE。

floating-point vhdl

回答 1 投票 0

VHDL 浮点加法器/减法器 - 边界检查错误

我正在编写浮点加法器/减法器的代码。我有多个错误，所以我正在调试，此时，当尝试模拟时，我在代码下方收到错误： IEEE 图书馆；使用 IEEE。

floating-point vhdl

回答 1 投票 0

PHP如何将数字指数数转换为字符串？

我有一个以科学计数法存储的数字 2.01421700079E+14 我尝试过使用 float、string、int，但无法得到 0201421700079085 来自 2.01421700079E+14 1. 回显（浮动）$awb； 2.回声

php string floating-point number-formatting exponential

回答 3 投票 0

使用自定义键对 pandas 数据框浮动列进行排序

我想先对b列上的以下DataFrame进行排序，然后对a列进行排序。 A 乙 0 1.2 2 0.07076863960397785 1 0.07076863960397783 4 0.02 math.isclose() 函数应该用于

python pandas dataframe sorting floating-point

回答 1 投票 0

寻求SQL中浮点运算精度限制的解决方案

我目前正在使用 Spark SQL 提取数据集，需要将其统计信息附加到最后一行。 - 数据选择帐户，余额为 FROM 表中的金额联合所有选择帐户，利息金额为 F...

sql apache-spark floating-point precision

回答 1 投票 0

如何在浮点数上使用expr？

我知道这是一个非常愚蠢的问题，但我不知道如何在 bash 中做到这一点： 20 / 30 * 100 它应该是 66.67，但 expr 显示为 0，因为它不支持浮点数。 Linux中什么命令可以代表...

bash floating-point rounding fixed-point

回答 7 投票 0

快速将 Double 分解为符号、尾数和指数：检查我的工作

我在下面的 Double 中添加了这个扩展，以便在 Swift 中将 Double 分解为整数尾数和指数。我已经测试了它的许多值，包括 DBL_MAX 和 -DBL_MAX。我的问题是：...

swift floating-point double

回答 2 投票 0

将数字转换为 IEEE 754

我明白如何将十进制数转换为 IEE 754。但我对如何回答这个问题感到困惑 - 它只给了我一个商？我不被允许使用计算器，所以我不确定如何计算...

math floating-point binary ieee-754 calculation

回答 3 投票 0

VMLA ARM 指令的语义

我说的 VMLA.F32 指令完全相当于 F32 乘法（完成舍入步骤）后跟 F32 加法（包括 NaN 有效负载），这样说对吗？（它...

floating-point arm neon

回答 2 投票 0

如何避免使用 numpy.round 进行错误舍入？

我正在使用浮点数。如果我做：将 numpy 导入为 np np.round(100.045, 2) 我得到：输出[15]：100.04 显然，这应该是 100.05。我知道 IEEE 754 的存在并且...

python numpy floating-point rounding rounding-error

回答 3 投票 0

如何在 JavaScript 中对数字进行四舍五入？

在做一个项目时，我遇到了一个由前雇员创建的 JS 脚本，它基本上以以下形式创建了一个报告：名称：值名称2：值2 ETC。问题在于价值观...

javascript floating-point numbers rounding

回答 9 投票 0

Java 中的 String.format("%.2f", doubleValue) 防止四舍五入

如何防止 String.format("%.2f", doubleValue);从四舍五入（四舍五入算法）而不是仅仅截断它？例如双值 = 123.459 格式化后，双值 = 123.46...

java string floating-point format

回答 6 投票 0

C 中的 IEEE 浮点舍入

我无法理解特定的 IEEE 双计算。采用以下 C99 程序，该程序在具有 IEEE 双精度（8 字节、11 位偏置指数、52 位编码螳螂）的主机上运行...

c floating-point rounding c99 ieee-754

回答 1 投票 0

如何在GCC中打印/转换十进制浮点值？

GCC 文档描述了最近 GCC 中有限的十进制浮点支持。但我该如何实际使用它呢？例如，在 Fedora 18、GCC 4.7.2 上。一个简单的 C 程序，例如 int main() { _十进制 64 x...

c gcc floating-point decimal

回答 1 投票 0

C 将浮点数转换为整数

我使用的是C（不是C++）。我需要将浮点数转换为整数。我不想四舍五入到最接近的数字，我只是想消除整数部分后面的内容。就像是 4....

c casting floating-point int type-conversion

回答 5 投票 0

Fortran real(REAL80) 和 C __float80 大小

考虑以下 C 代码： #包括 #包括 int main() { int16_t i16； __float80 r80； printf("16位整数的大小: %u 80 位实数的大小：%u\...

c gcc floating-point fortran gfortran

回答 1 投票 0

floating-point 相关问题

最新问题