floating-accuracy 相关问题

关于对浮点数执行的操作的准确性。

我编写了计算欧几里得距离的函数。函数的返回值不符合要求的精度范围。我将所有变量加倍，这是最准确的类型，并使用了sqrt（）...

c floating-accuracy euclidean-distance

回答 1 投票 0

在以下查询中，声明@a float（23）声明@b float（23）声明@c float（53）设置@a = 123456789012.1234设置@b = 1234567.12345678设置@c = @a * @b选择@c选择LTRIM（STR（（@ c），32,12））...

sql-server tsql floating-point decimal floating-accuracy

回答 4 投票 2

了解32位浮点数

我试图更好地理解计算机中的浮点。在阅读有关32位浮点数的过程中，我发现一般而言，以下是32点浮点数的构造：1位表示正数/ ...

architecture floating-point precision 32-bit floating-accuracy

回答 1 投票 0

在Matlab中加速程序

我有2个函数：ccexpan-用于计算函数f的插值多项式与第一种基础的Chebyshew多项式中的N个节点的系数。 csum-为...

performance matlab numerical-methods floating-accuracy polynomials

回答 2 投票 1

生成BigInt值的随机样本

对于使用JavaScript实现的游戏，我需要生成一个随机列表，其中包含[0，N）中的n个唯一数字，其中N可能大于Number.MAX_SAFE_INTEGER。这带来了三个重要的挑战：...

javascript algorithm random floating-accuracy bigint

回答 2 投票 0

Chebychev点和浮点精度

我在演讲笔记中看到，切比雪夫点定义为（n = 20；用MatLab表示法表示）； i =（1：n + 1）'; ％Chebychev xi = 5 * cos（（2 * i-1）* pi /（2 *（n + 1）））在[-1,1]中不对称......>

floating-point interpolation precision floating-accuracy numerical-analysis

回答 2 投票 0

在Python中找到多项式的有理根

关于在python的sympy.solvers中求解多项式，我有一个小问题。我想要的是找到理性根源，而不是非理性根源。我的尝试在下面给出-来自sympy.solvers ...

python python-3.x sympy floating-accuracy

回答 1 投票 2

python浮点数，即使全为零，也保留有效数字

我必须绘制一个数字，其中某些数字具有特定的有效数字，即使全为零也是如此。我的意思是，如果我有一个像12.00000000的数字，我想打印12.000而不是12。此...

python floating-accuracy digits

回答 1 投票 0

如何以全精度打印浮点数

如果我的值0.3不能准确地用double或float表示，我如何将其实际值打印为字符串。像这样的程序：使用系统；类程序{static void Main（...

c# floating-point number-formatting floating-accuracy

回答 1 投票 0

如何将字符串准确转换为浮点数？

我正在尝试用D编程语言编写一个函数来替换对C的strtold的调用。（理论上：要使用D中的strtold，必须将D字符串转换为C字符串，这效率低下。...

floating-point d floating-accuracy

回答 5 投票 10

浮点数显着性加减运算

虽然学习浮点运算的精度和避免精度的不同方法（使用共轭，taylor级数，...），但书中经常提到两个非常相似的减法...

floating-point precision floating-accuracy numerical-analysis

回答 2 投票 1

如何在C ++中将浮点值存储在数组中

我得到一个整数值作为我的输出，但我希望它是一个浮点值。我无法在我的代码中找出问题。这是代码。 #include #include ＃...

c++ arrays algorithm floating-accuracy knapsack-problem

回答 2 投票 0

为什么在访问查询中看到-0,000000000000001？

我有一个sql：SELECT Sum（Field1），Sum（Field2），Sum（Field1）+ Sum（Field2）从表GROUP BY DateField获得Sum（Field1）+ Sum（Field2）<> 0;问题有时是field1和field2的总和是值...

sql ms-access double floating-accuracy

回答 3 投票 0

快速和浮点数之间有区别吗？

我编写了一个用于计算货币的基本程序。如果我将函数的数据类型切换为浮点型。如果我将初始值设置为16.16，便士的计数是不正确的。如果我将其切换为双...

swift double floating-accuracy

回答 1 投票 -2

如何在Qt和C ++中获得正确的浮点精度？

我正在研究Qt，我发现它真的很棒，并且容易一些，因为我已经在Microsoft中使用过MFC。我已经开发出一种科学计算器供教育使用。但是我面临的是：我要浮动...

c++ qt floating-accuracy

回答 1 投票 -1

Java-使用double可以更精确

我目前正在为uni编写一个项目，我想知道是否有任何好的实践可以更精确地使用double值。也就是说，如果我只写很长的文字，精度会有所不同...

java floating-point double precision floating-accuracy

回答 1 投票 0

Mantissa有效位

我只是对尾数位感到困惑。在练习考试中，我被要求将十进制转换为浮点数。以1个符号位，4个exp位和5个尾数位工作，数字132是...

floating-point binary floating-accuracy

回答 2 投票 2

Wolfram alpha和浮点算术（不重要）

我正在研究浮点算术。假设我们具有双精度。我们知道，当我们减去两个“几乎”具有相同大小的数字时，相对误差很大。在MatLab中...

floating-point precision floating-accuracy numerical-analysis

回答 1 投票 -1

如何确保整数除法给出正确的结果？

我知道浮点计算可能不准确的事实。例如：var x = 100 * 0.333;这里x设置为33.300000000000004而不是33。这似乎是次要的...

javascript floating-accuracy integer-division

回答 3 投票 1

如果两个整数的乘积落在浮点类型的无损范围内，将无损吗？

单精度和双精度IEEE 754 Base 2浮点值可以表示整数范围而不会丢失。给定乘积A = BC，其中B和C是表示为无损的整数，表示为...

floating-point precision floating-accuracy processor

回答 1 投票 3

floating-accuracy 相关问题

最新问题