floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

SEXP callFunction1（List network，List words，Function testWordContinuity）{SEXP res = testWordContinuity（network，words）;返回资源; for（int i = 0; i

r floating-point type-conversion double rcpp

回答 1 投票 1

如何在bash脚本中回显浮点数，包括点前面的前导0

我正在回应一个浮点变量。结果如下：.4983385178我正在使用echo -e“$ var”。如何告诉echo还要在点之前打印0：0.4983385178在此先感谢！ ...

bash floating-point echo

回答 1 投票 2

x86和x64之间的浮点算术的差异

我偶然发现了在x86和x64的MS VS 2010版本之间完成浮点算术的方式不同（两者都在同一台64位机器上执行）。这是一个简化的代码示例：float ...

c++ c visual-studio-2010 floating-point 64bit

回答 2 投票 10

PYTHON，Midpoint方法，TypeError：'float'对象不能解释为整数

我正在尝试开发一种近似一阶ODE的迭代方法。我继续遇到浮动的错误不能被解释为一个整数我尝试了很多解决方案，如更改...

python arrays floating-point ode

回答 1 投票 -1

Mysql插入/更新不同的十进制值

我有一个非常奇怪的情况，其中mariaDB（mysql）插入（或更新）不同的十进制值。在下面的例子中，我想插入值'387507.65'但在mysql中它被注册为'387507.66'...

mysql sql floating-point mariadb

回答 2 投票 0

如何在不使用不安全代码的情况下将float转换为二进制？

有没有办法将浮点数（f32或f64）转换为可以按位访问的数据类型，如u32 / u64？也就是说，对应于：fn as_bits（i：f64） - > u64 {unsafe {...

floating-point rust ieee-754

回答 1 投票 2

如何在Windows和Linux上确保相同的浮点行为？

我有一个软件可以对双打进行大量计算，它必须在linux和windows上运行。我不关心使用什么行为（更快更好），但我必须得到......

c++ gcc floating-point mingw

回答 1 投票 1

如何在Micropython汇编语言中测试浮点寄存器的符号

我正在学习MicroPython的汇编程序（用于PyBoard的ARM Thumb2指令集）。有没有更快的方法来检查FPU寄存器（s0）的符号（正/负）？ @micropython ....

assembly floating-point arm micropython

回答 1 投票 1

Matplotlib的'Float'错误

我正在尝试编写一个程序，绘制方程式的图形y = 5 * e ^ -t * cos（2 * pi * t）我必须使用导入数学，这就是我所拥有的：import matplotlib.pyplot as plt进口......

math matplotlib import floating-point

回答 1 投票 0

如何在OpenCV中使用双重类型的地图重新映射

cv :: remap（）的问题：我正在为我的图像坐标使用double值，并希望cv :: remap（）创建一个扭曲的图像。但是，OpenCV只允许我使用CV_32FC1（float）作为map ...

c++ opencv floating-point double remap

回答 1 投票 0

如何在Python中将带分数的字符串转换为float

我正在准备一些数据插入MySQL。不幸的是，有些数据的格式为100½。我需要将其转换为浮点数，但显然浮点数（100½）失败。 Python中有一个方法......

python mysql python-3.x floating-point fractions

回答 2 投票 1

在c ++中将4个字节转换为float的最快方法

我需要将一个字节数组转换为浮点数组。我通过网络连接获取字节，然后需要将它们解析为浮点数。阵列的大小没有预定义。这是......

c++ arrays optimization casting floating-point

回答 2 投票 1

如何将-1x10 ^ 200转换为IEEE 754双精度

如上所述，我想找到-1x10 ^ 200的IEEE 754表示。我知道我们可以得到标志为1，因为我们有一个负数。但是我不确定如何找到尾数/指数。 ...

c++ floating-point binary double ieee-754

回答 1 投票 -1

double to float而不舍入python

说a = 580991.3636当我b = np.float32（a）b 580991.4我在b 580991.3636之后我希望这是一个简单的，任何想法？我也假设这是我对浮子造成误解的原因。一世 ...

python-3.x floating-point

回答 1 投票 0

tf.round（）到指定的精度

tf.round（x）将x的值舍入为整数值。是否有任何方法可以舍入到3位小数位？

tensorflow floating-point rounding precision

回答 1 投票 5

将负面科学记数法1.3E-2转换为浮动？

据我所知，我可以将科学记数法中的数字转换为浮点数，如下所示：>>> x = 1.3e8 >>> float（x）130000000.0然后，为什么我不能用...做同样的事情

python floating-point scientific-notation

回答 3 投票 0

嵌入式应用程序的浮点库

我正在为Cortex-M3开发程序。它没有浮点协处理器。标准C库可以模拟浮点运算，但由于它的大小，我不使用它。有什么好处......

c embedded floating-point

回答 8 投票 3

Java：添加/减去Math.ulp（）与Math.nextAfter（）

我正在尝试更详细地了解Java中的浮点运算。如果我正确阅读文档，则对于任何给定的双x，以下内容成立：x - Math.ulp（x）== Math.nextAfter（x，...

java floating-point

回答 2 投票 12

Python：Float或Double

我需要使用struct模块在Python中打包数字。当我打包它时，我想检查一个数字是浮点还是双数。我怎样才能做到这一点？有没有内置函数，或者我需要写一个？要么 ...

python types floating-point double

回答 1 投票 2

JS中整数除法的精确性

如果a和b是小于Number.MAX_SAFE_INTEGER的正整数，并且a可以被b整除，那么它是否保证console.log（a / b）将输出一个整数（而不是，例如，以...结尾的数字）

javascript floating-point precision division

回答 1 投票 1

floating-point 相关问题

最新问题