fixed-point 相关问题

两个不同的概念： - **定点算术**使用一组小数位来完成。它可以更快，并且在其范围内，比浮点更精确。 - **定点组合器**找到固定的函数点，即值“x”，使得`f（x）= x`。

有没有办法检查128位整数是否可用

我正在开发一个定点数学库。处理定点数乘法的公认方法是将它们乘以一个大于您存储的整数变量，...

c++ fixed-point 128-bit

回答 1 投票 0

为什么 C99 中不包含定点类型？

值得庆幸的是，C99 标准中引入了复杂类型修饰符。我不明白的是为什么决定省略对定点算术的支持（具体来说，支持小数 ty...

c gcc c99 fixed-point

回答 4 投票 0

如何舍入有符号正数，使其环绕为负数？

因此我创建了一个表格，以便了解不同的舍入方法将如何影响定点 8 位 Q4.4 数量。它使用带 4 个整数位和 4 个小数位的有符号 2 补码。注意：T 表示截断...

rounding fixed-point rounding-error

回答 0 投票 0

从定点计算平方根

我一直在尝试从定点数据类型计算平方根<24,8>。不幸的是，似乎没有任何效果。有谁知道如何在 C(++) 中快速高效地完成此操作？

c++ fixed-point square-root

回答 1 投票 0

浮点乘法中舍入是如何工作的？

float 0.7f 的准确值为 0.69999... 所以我认为 0.7f * 100f 的结果会低于 70，比如 69.99999... 但结果恰好是 70。浮点乘法涉及这样的吗

floating-point rounding multiplication floating-accuracy fixed-point

回答 1 投票 0

使用 julia 的 NonlinearSolve 求解稳态时函数调用错误

我正在使用 NonlinearSolve 来解决稳态问题。当我做 prob = SteadyStateProblem(eoms!, σ₀, p) 溶胶 = 求解（概率， SSRrootfind(), abstol = slv.abstol, reltol = slv.relto...

julia differential-equations fixed-point

回答 1 投票 0

小数数据类型或定点数如何存储在计算机硬件中？

对于浮点数，IEEE-754 32 位单精度格式用于在计算机硬件中存储数字。这里最高有效位即位 31 用于表示符号。它要么是 0，要么是 1 0 ...

decimal hardware ieee-754 fixed-point

回答 2 投票 0

如何在浮点数上使用expr？

我知道这是一个非常愚蠢的问题，但我不知道如何在 bash 中做到这一点： 20 / 30 * 100 它应该是 66.67，但 expr 显示为 0，因为它不支持浮点数。 Linux中什么命令可以代表...

bash floating-point rounding fixed-point

回答 7 投票 0

如何修复创建带有换行的 Fxpmath 变量时的错误

我想使用以下命令在 Fxpmath 中创建一个变量： Var2 = Fxp(6721.35595703125, True, 75, 13, 溢出='换行') 但这只会在 Fxpmath 的换行函数中产生错误文件...

python fixed-point

回答 1 投票 0

符号定点运算

你能帮我进行定点格式的二进制数的算术运算吗？我有两个符号数值 8 位数字，例如 0_0101010 和 1_0001100，其中最高有效位

math binary fixed-point

回答 1 投票 0

RISC-V 定点运算

我有以下问题：我想使用 32 位寄存器在 RISC-V 汇编中添加两个数字 -1.25 和 3.25（结果显然是 2）。我假设了 Q 格式（假想小数点），所以有

assembly riscv fixed-point

回答 1 投票 0

浮点和定点表示的优点和缺点[关闭]

过去三天我一直在尝试理解浮点表示和定点表示之间的确切区别。我对阅读材料感到困惑，无法决定什么是......

floating-point fixed-point

回答 4 投票 0

计算 (1 - SQRT(0.5)) 的定点表示形式至任意精度级别

我有一个常数 0.29289321881345247559915563789515...，可以使用方程（1 - SQRT(0.5)）计算，然后转换为定点格式，以便与各种大小一起使用...

c math binary fixed-point arbitrary-precision

回答 1 投票 0

我需要在有符号定点乘法器中提取哪些位？

我需要在 Verilog 中设计一个定点乘法器，它采用 16 个 bif，格式为 1 个符号位、6 个整数位和 7 个小数位。我只是不知道要提取哪些位来确保......

verilog fixed-point

回答 1 投票 0

在 Verilog 中向下舍入有符号定点数的绝对值

上下文你好，我正在用 Verilog 构建 R2MDC-FFT 引擎。目前，引擎输出表现出舍入误差（它在一些提供的测试用例中略有失败），并且我

verilog rounding fixed-point

回答 1 投票 0

Abinitio 显式不动点

我的 abinitio ETL 代码中有一个 DDL，如下所示，十进制 (“\x01”.6) AMOUNT = NULL (“”) 这是什么意思？是四舍五入到小数点后 6 位还是截断到小数点后 6 位？例如，123.4567889 = 123.456788...

decimal etl sqldatatypes fixed-point ab-initio

回答 1 投票 0

如何将浮点数转换为具有一定宽度和精度的定点数。 python中有没有库可以用来做到这一点？

我需要一个函数将浮点数转换为以二进制表示的定点数，以便我可以将其放入只能接受定点数的硬件加速器中。例如，当我

python math fixed-point

回答 6 投票 0

模拟定点除法/乘法

我正在编写一个定点类，但遇到了一些障碍......乘法、除法部分，我不知道如何模拟。我对部门操作员进行了非常粗暴的攻击，但我......

c++ bit-manipulation multiplication fixed-point integer-division

回答 3 投票 0

如何在6502组装（NES）中进行平滑的水平/垂直移动？

我目前正在大学项目的 6502 组件中进行平台游戏演示，我不明白如何在此中实现平滑的水平/垂直运动和加速

assembly fixed-point 6502 nes

回答 1 投票 0

fxpmath ：将两个无符号数减去有符号数

将 numpy 导入为 np 从 fxpmath 导入 Fxp 作为 fxp t1 = fxp(4, 假, 9, 3) t2 = fxp(5, 假, 9, 3) inter1 = fxp(0, True, 9, 3, 原始=True) inter2 = fxp(0, 真, 9, 3, 原始=真) 间 1(t1 - t2) INT...

python data-conversion fixed-point

回答 1 投票 0

最新问题

© www.soinside.com 2019 - 2024. All rights reserved.