floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

如何在 Rust 中使用以 f64 作为键的 HashMap？

我想使用HashMap，来保存已知x和键y的点到另一个点的距离。 f64 作为值在这里不重要，重点应该放在键上。让 mut 映射 =

floating-point hashmap rust

回答 5 投票 0

Python 中非常大的浮点数

我正在尝试为 Mnist 数据库构建一个神经网络。计算 softmax 函数时，我收到与“您无法存储该大小的浮点数”相同的错误代码如下

python-3.x machine-learning neural-network floating-point decimal

回答 2 投票 0

如何用C++流输出小数点后3位？

给定一个float类型的变量，如何使用C++中的iostream输出小数点后3位数字？

c++ floating-point iostream

回答 6 投票 0

如何可靠地将数字中的小数部分和浮动部分分开？

这不是这个的重复，我将在这里解释。考虑 x = 1.2。我想把它分成 1 和 0.2。我已经尝试了链接问题中概述的所有这些方法：在[370]中：x = 1....

python floating-point ieee-754 python-internals

回答 5 投票 0

如何计算float类型的大矩阵的逆？

我用高斯消元法对矩阵求逆，矩阵是12 x 12。当找到一个小矩阵时，结果是正确的，但当矩阵变大时，结果是错误的。我猜这是一个浮点数

c++ matrix floating-point

回答 1 投票 0

C++ 打印浮点数

有没有一种打印浮点数的最佳方法（我正在使用长双精度数）？我尝试了几种方法，但似乎没有一种方法适用于所有类型的数字。让我举例说明。我有三个印刷声明...

c++ floating-point cout

回答 4 投票 0

更改默认浮动打印格式

我有一些列表和包含浮点数的更复杂的结构。打印它们时，我看到带有很多十进制数字的浮点数，但是打印时，我不需要全部。所以我想定义...

python python-3.x floating-point string-formatting

回答 9 投票 0

对Python十进制库感到困惑

我正在对Python进行定量分析，与另一位同事比较结果，我们发现由于操作顺序不同，这些典型的浮点数差异在小数点后第17位左右。洛...

python floating-point decimal precision

回答 1 投票 0

像Python中的Excel一样截断小数位

在我的Excel文件中，我有一些计算。计算返回 0,345，Excel 将其转换为 0,35。我用Python做的。 Python 返回 0,345，但我想像 Excel 一样获取 0,35。我尝试过...

python excel floating-point decimal floating-accuracy

回答 1 投票 0

使用 cout 打印正确的小数位数

我有一个浮点值列表，我想用带有两位小数的 cout 打印它们。例如： 10.900 应打印为 10.90 1.000 应打印为 1.00 122.345 应打印为...

c++ floating-point precision iostream

回答 14 投票 0

浮点表示的标准化

浮点数尾数归一化有什么要求？

floating-point

回答 2 投票 0

标准化浮点加法的结果

在浮点运算中，我将两个二进制数 1.1100*2^4 和 0.0110*2^4 相加，得到 10.0010*2^4。我应该左移多少次才能使其正常化？是（10.0010*2^4）、1.0001*2^4 还是 0.1000*...

math floating-point addition normalization

回答 1 投票 0

Double.toString 总是产生与双文字完全相同的结果吗？

Double.toString(0.1) 生成“0.1”，但 0.1 是浮点数。浮点数无法在程序语言中精确表示，但 Double.toString 会产生精确的结果（...

java floating-point

回答 4 投票 0

如何在不使用浮点的情况下乘以小数？ [C17]

我正在尝试用c语言编写一种ATM机代码。强烈建议我在处理货币时不要使用浮点数。在我的代码中，用户可以选择他们想要的货币...

c floating-point integer currency

回答 1 投票 0

将浮点数转换为字符串

在C/C++中如何在不使用库函数sprintf的情况下将浮点整数转换为字符串？我正在寻找一个功能，例如char *ftoa(float num) 将 num 转换为字符串并返回...

c++ c floating-point

回答 13 投票 0

使用 python 向 Binance API 发出请求时出现问题

我在尝试使用 Binance API 和 Python 进行交易时遇到问题。我想出售 100% 的以太币并将其转换为另一种代币。有时请求会顺利完成，但是

python floating-point python-requests algorithmic-trading binance

回答 1 投票 0

比较自定义浮点结构

我创建了一个 struct BigValue 具有十进制有效位数和 int 指数，有效位数始终标准化为 1 个整数数字。我已经编写了方法来比较此类结构（代表的数字......

c# math floating-point compareto

回答 1 投票 0

这里造成浮点到无符号转换差异的原因是什么？

如果我运行这段代码： #包括 #包括 int main() { 双a=-2.0；常量双 b = -2.0; 使用 std::cout；计算<< "Direct cast double...

c++ floating-point floating-point-conversion

回答 1 投票 0

表单中 Django 模型浮动字段的本地化

我正在尝试以 django 形式本地化模型浮点字段。这样它就可以工作了：极好的（....） self.fields["field_name"] = forms.FloatField(localize=True) 然而我不想定义一个新的f...

django localization floating-point django-forms

回答 3 投票 0

Xilinx MicroBlaze 浮点兼容性

我有一个针对 MicroBlaze CPU 的“c”代码。当我在 Eclipse + GCC 或 Visual Studio 中将代码调试为 c 程序时，我得到了我想要的结果。然而，当我在目标上运行时，结果却不同......

c gcc floating-point fpga xilinx

回答 3 投票 0

floating-point 相关问题

最新问题