fixed-point 相关问题

两个不同的概念： - **定点算术**使用一组小数位来完成。它可以更快，并且在其范围内，比浮点更精确。 - **定点组合器**找到固定的函数点，即值“x”，使得`f（x）= x`。

我目前正在大学项目的 6502 组件中进行平台游戏演示，我不明白如何在此中实现平滑的水平/垂直运动和加速

assembly fixed-point 6502 nes

回答 1 投票 0

将 numpy 导入为 np 从 fxpmath 导入 Fxp 作为 fxp t1 = fxp(4, 假, 9, 3) t2 = fxp(5, 假, 9, 3) inter1 = fxp(0, True, 9, 3, 原始=True) inter2 = fxp(0, 真, 9, 3, 原始=真) 间 1(t1 - t2) INT...

python data-conversion fixed-point

回答 1 投票 0

在C++中实现定点运算时移位是什么意思？

我在理解定点算术及其在 C++ 中的实现方面遇到问题。我试图理解这段代码： #定义比例16 int DoubleToFixed(双数字){ 返回 num * ((d...

c++ fixed-point byte-shifting

回答 2 投票 0

Libfixmath 中的乘法是如何执行的？

我正在 CMD Batch 中移植维基百科 https://en.wikipedia.org/wiki/Libfixmath 提到的库。该库使用 Q16.16 格式。我正在尝试将其移植为 Q16.16 或 Q15.15 格式。我做什么...

c batch-file cmd fixed-point

回答 1 投票 0

从逻辑数据类型中提取浮点数

我正在尝试弄清楚如何从 22 位逻辑数据类型计算小数，请告诉我是否有任何其他已知的工作方法。我尝试了以下方法，但结果没有...

floating-point system-verilog fixed-point

回答 1 投票 0

将-0.67浮点改为定点

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

floating-point precision fixed-point

回答 2 投票 0

我们如何用定点和浮点二进制表示法来表示-0.67？

我想以适当的8位Qn.m格式编写这个（-0.67）我怎样才能做到这一点？通常我们有-1.67 可以表示为整数部分 2 位，小数部分 4 位乙...

verilog precision fixed-point fixpoint-combinators

回答 1 投票 0

如何将字符串转换为定点格式？

我正在批量进行基本的定点数学运算。批处理中仅进行整数数学运算，变量的内部格式最大为 32 位。我正在尝试通过 put 来实现 Q16.16...

batch-file cmd fixed-point

回答 1 投票 0

Python 十进制和返回错误值

我正在使用十进制模块来避免浮点舍入错误。就我而言，这些值是金钱，所以我想要两位小数。为此，我执行了decimal.getcontext().prec = 2，但随后我得到了一些令人惊讶的结果...

python fixed-point

回答 1 投票 0

short2，10 位整数，5 位小数，1 位符号位

NVIDIA 的光流库文档指出流向量“由 32 位值表示，每个水平和垂直分量为 16 位值。最低 5 位保存

c++ math nvidia fixed-point opticalflow

回答 1 投票 0

定点二进制乘法过流问题

我正在对两个定点整数进行 32 位无符号乘法，如下所示： 888.88 x 805.00 = 7,155,484,000（大于 32 位）但我需要如下结果： 888.88 x 805.00 = 715,548.4 ...

numbers computer-science unsigned-integer fixed-point

回答 1 投票 0

如何计算定点二进制对数？

目标是这样的：给定一个无符号（64 位）整数，将其二进制对数返回为 Q64.64 定点十进制。这意味着低 64 位代表对数的小数部分...

math rust binary fixed-point

回答 1 投票 0

U0.8、U4.8、U12.8、S0.4、S4.4、S12.4、U8.8等定点表示到底是什么意思？

我发现很难理解定点表示。当我有无符号数据类型（C++）并且我想像定点一样使用该数字时，我需要执行一定数量的位

c++ fixed-point

回答 1 投票 0

如何高效地从（CoolFlux BSP32 累加器）小数部分的前 29 位计算十进制值？

我正在尝试编写一个C（使用CoolFlux BSP32）程序，该程序将累加器作为输入并显示其十进制值。例如，对于值为十六进制 FF C000 0000 的 acc，我想要

c bit fixed-point bsp

回答 0 投票 0

如何将定点数转换为浮点数？

使用 Unity。我需要使用定点确定性地联网一些数据。如何将固定点转换回浮点数，以便将其应用于对象变换？公开课固定 ...

c# unity3d floating-point fixed-point

回答 2 投票 0

如何提高定点数据类型的利用率？

我正在尝试对卷积神经网络使用量化，以减少从 FP32 位数据类型到 Int16 数据类型的内存占用。问题是我的资源很差...

c fixed-point

回答 1 投票 0

如何实现定点乘法

我想在 C 和定点中实现乘法，具有可扩展的分数位宽（即从 1 位到 30 位），我知道最简单的方法是这样的： fixedpt fixedpt_mul(fixedpt A, fixedpt ...

c math binary multiplication fixed-point

回答 2 投票 0

无法将 MATLAB 定点数正确舍入到第 N 位小数

就我的应用而言，定点计算的结果需要先四舍五入到小数点后第二位，然后四舍五入到整数。所以，如果你考虑像 0.4962 这样的数字...

matlab fixed-point

回答 0 投票 0

C 浮点到定点转换

嗨，我正在尝试在不使用任何库函数的情况下在浮点和定点表示之间创建一个转换器。到目前为止，定点表示是 16 位，其中 10 代表 ...

c floating-point binary fixed-point

回答 3 投票 0

用于FFT ARM Cortex-M7的Q31和SP的精确度

我想了解一下，对于精度很重要的DSP应用，使用定点Q31是否比浮点（单精度）更好。更详细的情况，我目前正在用...

signal-processing cortex-m fixed-point fpu cmsis

回答 1 投票 0

fixed-point 相关问题

最新问题