fixed-point 相关问题

两个不同的概念： - **定点算术**使用一组小数位来完成。它可以更快，并且在其范围内，比浮点更精确。 - **定点组合器**找到固定的函数点，即值“x”，使得`f（x）= x`。

如何解决MATLAB Simulink定点工具中的下溢（/上溢）问题？

谢谢，我正在研究一个涉及浮点数据类型的Simulink模型。因此，使用Simulink中提供的定点工具，我试图将浮点系统转换为...

matlab simulink fixed-point

回答 1 投票 0

C ++编译时bignum库

在C ++中，有没有用于任意精度算术的编译时库（模板元编程）？我需要它来帮助AVR程序中的定点算术和二进制缩放...

c++ template-meta-programming compile-time fixed-point bignum

回答 2 投票 10

使用AVX-2的[32-1024位定点矢量算法

对于mandelbrot生成器，当您放大时，我想使用定点算法，范围从32到1024位。现在，由于缺少带进位和执行加法功能，因此正常情况下，SSE或AVX在这里没有帮助...

biginteger avx fixed-point avx2

回答 1 投票 0

将定点转换为16位到64位？

具有最大和最小值的16位数字的定点转换宏：#define SCALEFACTOR_16（N）（1U << N）#define Q_MAX16（SCALEFACTOR_16（16-1）-1U）#define Q_MIN16（-SCALEFACTOR_16（ ...

c fixed-point

回答 3 投票 0

具有乘法和钳位的8位无符号定点实现

我想使用8位字表示[0.0，1.0]范围内的数字（最好包括两个端点）。我希望能够有效地将它们相乘，并且加法/减法应该...

fixed-point

回答 1 投票 0

Swift中浮点数的定点表示形式

我正在尝试在Swift中准确表示浮点数。假设我们有一个数字，让doubleNumber = 16.756。问题是实际数字类似于16 ....

swift fixed-point

回答 2 投票 1

Ada 2012-用自定义版本替换Fixed_Decimal_Type'Round（）吗？

最近，我为自定义记录类型提供了自己的替换'Write（）过程，例如，...类型Pixel_Format为record-等等等等...]，我获得了巨大的成功。 [

rounding ada fixed-point

回答 1 投票 0

c-了解定点位模型

因此，我正在学习二进制值，并且试图了解如何使用定点位模型来计算数字的负数形式。在我的教科书中，它说000111.01 = 7.25，我...

c binary bit-manipulation bit fixed-point

回答 2 投票 2

Log2近似于定点

我已经使用查找表和低阶多项式逼近实现了定点log2函数，但对整个32位定点范围[-1，+ 1]的准确度不太满意。 ......

logarithm polynomials fixed-point

回答 1 投票 0

归一化两个补数

我正在使用某些Tensilica处理器，但我不了解规范化过程。 NSA-标准化班次金额用法：NSA at，NSA计算左班次...

assembly binary normalization twos-complement fixed-point

回答 2 投票 2

用于查找固定点的OCaml函数

我有一个OCaml函数用于查找不动点：>> let rec fix f x = let x'= f x in if if x = x'then x else fix f x';; （系统消息）val修复：（'a - >'a） - >'a - >'a = ...

recursion ocaml fixed-point

回答 1 投票 0

C编程中的不动点算法

我正在尝试创建一个高精度存储股票价格的应用程序。目前我正在使用双倍这样做。为了节省内存，我可以使用任何其他数据类型吗？我知道这有一些东西......

c fixed-point

回答 4 投票 23

C ++中的Json：将数字解析为字符串以避免浮点不准确

我正在处理加密货币RPC并接收json数据，如下所示：{...“amount”：1.34000000，“confirmmations”：230016，“spendable”：true，“solvable”：true ...}使用Jsoncpp .. 。

c++ json double fixed-point jsoncpp

回答 3 投票 1

浮点数和16位计算之间的最大差异应该是多少？ [关闭]

假设我有一个计算值的公式。我可以使用浮点运算或使用定点运算（使用16位整数）来计算该值。什么应该是最大的......

floating-point integer rounding fixed-point

回答 1 投票 0

你如何乘以两个定点数？

我目前正试图找出如何在定点表示中乘以两个数字。说我的数字表示如下：[SIGN] [2 ^ 0]。[2 ^ -1] [2 ^ -2] .. [2 ^ -14]在我的情况下，数字......

multiplication fixed-point

回答 3 投票 3

反向sqrt为固定点

我正在寻找固定点16.16数字的最佳逆平方根算法。下面的代码是我到目前为止（但基本上它取平方根并除以原始数字，...

math fixed-point inverse sqrt

回答 3 投票 4

有符号和无符号整数乘法

在定点数学中，我使用了大量的16位信号，并使用32位中间结果进行乘法运算。例如：int16_t a = 16384; //-1.0q14或1.0 * 2 ^ 14 int16_t b = -24576; // -1.4q14或......

c math types multiplication fixed-point

回答 2 投票 5

为什么使用Matlab滤镜设计工具创建的滤镜不适用于定点数？

我使用Matlab滤波器设计工具来创建低通滤波器组。我将银行导出为Simulink模型。双精度一切都很好。但是，如果我将过滤器转换为固定的-...

matlab filtering signal-processing fixed-point

回答 1 投票 -1

舍入到IEEE 754精度但保持二进制格式

如果我将十进制数3120.0005转换为浮点（32位）表示，则数字向下舍入为3120.00048828125。假设我们使用的是一个比例为10 ^ 12的固定点数，那么......

c algorithm formula ieee-754 fixed-point

回答 2 投票 0

嵌入式C Cortex-M4：正确处理大数字划分？

我正在为光谱学编写嵌入式代码。为了构建我的光谱，我需要将一个间隔（动态范围由问题的物理/规格给出）的线性样本映射到另一个。 ...

c embedded fixed-point integer-division

回答 2 投票 2

fixed-point 相关问题

最新问题