floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

以下是Go中的示例代码：包主导入“fmt” func mult32(a, b float32) float32 { 返回 a*b } func mult64(a, b float64) float64 { 返回 a*b } 函数主() { fmt.Println(3*4.3) ...

go floating-point precision ieee-754

回答 2 投票 0

在 PHP 中解析时取消金钱格式

除了parsefloat(str_replace(',', '.', $var))之外，有没有办法获得这样的字符串的浮点值：75,25 €？我希望这取决于当前的网站语言，有时还取决于

php parsing floating-point currency

回答 9 投票 0

Python 内置 round() 函数在 2.4 和 2.7 之间的变化

Python 中内置的 round() 函数在 2.4 和 2.7 之间有变化吗？ Python 2.4： Python 2.4.6（#1，2009 年 2 月 12 日，14:52:44） >>> f = 1480.39499999999998181010596454143524169921875 >&g...

python floating-point python-2.7 floating-accuracy python-2.4

回答 4 投票 0

两个 IEEE754 数字的舍入说明

最近我一直在为我的自定义语言创建一个标准库。该库包含一些软浮点功能，因为我的目标处理器没有 FPU。我不支持

floating-point rounding ieee-754 ieee

回答 1 投票 0

为什么 numpy 的正弦函数在某些点上如此不准确？

我刚刚检查了numpy的正弦函数。显然，它产生的关于 pi 的结果非常不准确。在[26]中：将numpy导入为np 在[27]中：np.sin(np.pi) 输出[27]：1.2246467991473532e-16 预期的

python numpy floating-point

回答 3 投票 0

如何避免 Numpy 自动类型转换为 float64？

是否可以避免或发出从整数和 32 位浮点数组到 64 位浮点数组的自动 Numpy 类型转换的警告？我的用例是我正在开发一个大型分析......

python numpy tensorflow floating-point

回答 2 投票 0

如何避免Numpy自动类型转换？

是否可以避免或发出从整数和 32 位浮点数组到 64 位浮点数组的自动 Numpy 类型转换的警告？我的用例是我正在开发一个大型分析......

python numpy tensorflow floating-point

回答 1 投票 0

为什么模运算符会根据所使用的编译器和变量返回不同的结果？

我有一些代码会根据我使用的编译器产生不同的结果：浮动 a = 1f; 浮点 b = 6f; 浮点数结果 = a % (a / b); 浮点结果1 = 1f % (1f / 6f); Console.WriteLine("{0...

c# compilation floating-point roslyn

回答 1 投票 0

如何 std::round 加倍，但在中途情况下舍入为零？

我面临的情况是需要将 0.5 和 -0.5 舍入为 0。所以我检查了各种文档 - 通用 C++ 方法似乎总是与 0 相差 0.5。 https://en.cppreference.com/w/cpp/

c++ floating-point std rounding

回答 1 投票 0

在Java中，float的双精度类型转换总是相同吗？

假设我们有一个 java float 定义为 float p = 4.423，每当应用程序流中的变量的 double q =(double) p 时，每当它被强制转换为 double 时，我们是否总是会得到相同的 double 值？

java floating-point

回答 1 投票 0

为什么在 C 中双精度打印与 float 具有不同大小时相同的值？

我需要使用 π 进行计算。当我检查M_PI的精度时，它只打印了7个十进制数字。所以我#define了我自己的MY_PI。但我仍然面临着同样的问题。双应该支持15-17

c floating-point double

回答 2 投票 0

什么是浮点推测以及它与编译器的浮点模型有何不同

Intel C++ 编译器提供了两个控制浮点的选项： -fp-推测（快速/安全/严格/关闭） -fp-model（精确/快速/严格和源/双/扩展）我想我明白了...

c++ floating-point intel

回答 3 投票 0

如何阻止Python将int转换为float[重复]

我有一个整数变量，一旦我除以它，它就会转换为浮点数。我需要阻止这一切的发生我尝试在使用 t 声明变量后显式转换变量...

python floating-point type-conversion int

回答 1 投票 0

我的浮点问题 - 在 C++/Python 中试用

下文中理所当然地使用IEEE-754双精度浮点格式。 Python：“...几乎所有机器都使用 IEEE 754 二进制浮点运算，并且几乎所有

python c++ floating-point ieee-754

回答 2 投票 0

Python 在被零除的情况下不遵循 IEEE-754 吗？

这里有一个玩具示例，Python 表现出的行为令我感到惊讶： def Harmonic_mean(x, y): 返回 2/(1/x+1/y) 打印（harmonic_mean（0.0，1.0））在 IEEE-754 除以 0.0 时应该...

python floating-point runtime-error ieee-754 divide-by-zero

回答 1 投票 0

截断浮点数而不向上舍入

我有一个浮点数，我想截断到 3 位，但我不想四舍五入。例如，将 1.0155555555555555 转换为 1.015（而不是 1.016）。我将如何去做这件事......

ruby math floating-point decimal precision

回答 9 投票 0

当 Const=False 和数字时，EXCEL LinEst 函数返回无意义 <1E-7

要重现我的问题，只需输入 A1: 9.1E-8 和 A2: 9.2E-8，然后标记这两个单元格并向下拖动（自动填充）到 A25。然后输入B1：“=1.1*A1”并将公式复制下来，...

excel floating-point scientific-computing scientific-notation

回答 1 投票 0

使用 ToString("F1") 时浮点数舍入不正确

我有一个浮点值：12345.6489 当我使用以下命令格式化它时： (12345.6489f).ToString("F1") 然后我得到的结果是 12345.7 但这是不正确的，因为它应该是 12345.6。有谁明白吗...

c# string floating-point format

回答 3 投票 0

如何避免Python中除法后数字转换为浮点数？

我正在做codewars超级坐标和任务。 def super_sum(d, n): 返回 int((n - 1) * d / 2) * n ** d 这是我写的代码。它适用于大约 80% 的测试用例，但不适用于那些......

python floating-point integer

回答 2 投票 0

pytorch bfloat16 epsilon 减法得到相同的结果

我试图在非常窄的值范围内扫描一些参数，并使用 bfloat16 epsilong 作为步长，以避免出现诸如 a-b==a 对于非常小的 b 之类的问题，但是我偶然发现了这种情况：

pytorch floating-point precision

回答 1 投票 0

floating-point 相关问题

最新问题