floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

我可以比较两个浮子而不将它们加载到x87堆栈上？

对基本问题的理解。在汇编中，比较在不同（固定）存储位置存储而不将它们加载到堆栈中的两个浮点可以接受吗？我需要使用任何...

assembly x86 floating-point

回答 1 投票 0

IEEE.754在手臂上，组装算法给出意外结果

这是算法到目前为止的样子。此时仅尝试添加

assembly floating-point arm gdb

回答 0 投票 0

如何通过使用FSQRT来打印非综合部分？

assembly floating-point x86-16 number-formatting x87

回答 1 投票 0

如何完全触发 *一个 *一个 * SSE-exception

我编写了一个小测试程序，该程序通过feraiseexcept（）来陈述FPU检验： #include #include 使用名称空间性std; int main（） { 自动测试= []（int ...

c++ floating-point sse ieee-754 floating-point-exceptions

回答 1 投票 0

不能用十进制消除浮点错误我在各处使用小数点来尝试摆脱浮点错误，但这是持续存在的。这是我的测试代码从十进制进口小数需求= [9,12,8,11] FM =十进制（10） alpha = Decim ...

python floating-point decimal

回答 1 投票 0

为什么1.0/100.0 == 0.1/10.0给出true？

python c floating-point

回答 4 投票 0

我应该如何将浮子转换为未签名的整数？

java floating-point integer

回答 1 投票 0

当将浮点转换为固定点时，为什么我看到一些代码do bit_width ^ 2减1？

graphics floating-point fixed-point

回答 1 投票 0

`？fesetround（）的范围是什么？

c scope floating-point rounding

回答 3 投票 0

javascript并处理浮点确定性

从我的理解中，flash中的整数数学是通过将

javascript floating-point point multiplayer

回答 0 投票 0

为什么在不同情况下在不同情况下调用POW（）有时会产生不同的结果？我想知道什么可以解释我今天观察到的浮点差异。是一个错误还是绊倒一些不确定的行为？以下是代码。我的希望是理解这种行为...

c floating-point

回答 2 投票 0

754 IEEE FP标准符合我为什么要这样做的符号，并未定义以下行为：

基本上，无论我给出什么NAN的值，它都会输出80000000（HEX）或-2147483648（DEC）。是否有这样的理由和/或这种正确的行为？如果是这样，怎么来？

c floating-point nan

回答 1 投票 0

为什么基于IM2COL的2D-Convolution效率比NAIVE SIMD加速2D卷积更高效？

memory floating-point conv-neural-network cpu-architecture instruction-set

回答 1 投票 0

我正在使用scipy.solve_ivp求解ode，我明确地定义了时间输出。我将数据和时间数组保存在文件中，然后在另一个程序中打开它以进行分析。因为我只保存部分数据以节省磁盘空间，所以我整个时间都重新创建了分析代码。这样做，使用相同的表达式，我最终会以时间步骤略有不同。这是由于浮点错误，其他一些伪像还是我重现时间数组的方式？

np.linspace(0, n_freq_sweep*dt, n_freq_sweep)

python arrays floating-point

回答 0 投票 0

由于舍入行为

我需要在小数点后用两个数字输出浮点数。此外，我还需要舍入数字。但是，有时我没有得到所需的结果。下面是一个前面...

c++ floating-point rounding

回答 3 投票 0

瓦尔萨尔多：真实； A，B，C：真实；开始答：= 2580; B：= 188.9; C：= 2768.9; Saldo：= A+ B- C; ShowMessage（floattostr（Saldo））; // -8,5265128291212E -14 结尾; 由于某种原因，Delphi或Delphi ...

delphi floating-point

回答 1 投票 0

为什么delphi11添加这些浮点值？

delphi floating-point

回答 1 投票 0

如何检查浮子是无穷大/零/否定典型的？

INTIS_INFINITION/IS_ZERO/IS_DENMORMAL（float f）{ //做某事，返回0或1 } 这是我检查浮子是否负面的方法。我想为其他功能做类似的事情，b ...

c floating-point

回答 2 投票 0

I在VAX机上运行的旧应用程序的RTL/2程序语言中具有源代码。不幸的是，我没有可能重新编译应用程序的可能性。我必须改变...

floating-point reverse-engineering ieee-754 floating vax

回答 1 投票 0

如何计算`exp（x）/2`

c floating-point exp hyperbolic-function

回答 1 投票 0

floating-point 相关问题

最新问题