floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

logistic / sigmoid函数实现数值精度

在scipy.special.expit中，logistic函数实现如下：if x <0 a = exp（x）a /（1 + a）else 1 /（1 + exp（-x））但是，我看到了实现其他 ...

python scipy floating-point precision sigmoid

回答 3 投票 9

JavaScript中的简单浮点数学

我需要为网站用户界面做一些基本的浮点数学（添加和倍增钱）。我知道Javascript浮动因为它们的存储方式不准确，但我也知道......

javascript math floating-point bignum

回答 2 投票 0

Android java测试浮动负值和正值不起作用吗？

我正在测试浮点值public boolean deviceInGoodPosition（）{if（filteredSampling.fmagnet_x> 0.0 && filteredSampling.fmagnet_y <0.0 && filteredSampling ....

java android floating-point

回答 1 投票 0

ZeroDivisionError：计算标准偏差时浮点除零

我已经在我的脚本中发现了一个问题，即由于尝试使用scipy的.tstd函数，sp.stats.tstd（IR）进行标准差计算，我的IR值为0.0979。在那儿 ...

python numpy floating-point scipy divide-by-zero

回答 1 投票 0

浮点运算是否稳定？ [重复]

我知道浮点数具有精度，精度后的数字不可靠。但是如果用于计算数字的等式是相同的呢？我可以假设结果会......

c# floating-point

回答 6 投票 36

[0,1]上的定点表示与浮点表示

[0,1]中的值的固定点（位级）表示与其浮点（位级）值之间的差异/相似性是什么？

floating-point fixed-point bit-representation

回答 1 投票 -1

将双数转换为浮点数

我需要在Python中对MATLAB数据做一些阐述。数据存储为Matlab中的双精度数组。当我检索它时，尽管在这里声明来自Matlab的双数据类型是......

python matlab floating-point type-conversion double

回答 1 投票 1

在浮子上施加（某些情况下）周期性边界条件的有效方法？

通过简单地执行以下操作，可以非常有效地对整数施加一些周期性边界条件（PBC）：myWrappedWithinPeriodicBoundary = myUIntValue＆mask当边界是...

math graphics floating-point ieee-754

回答 2 投票 2

MySQL JSON存储不同的浮点值

如何在MySQL（5.7）中舍入JSON数据列中的浮点值？我无法找到一个好的资源来知道如何解决我的问题。这是发生了什么：CREATE TABLE someTable（...

mysql json floating-point

回答 1 投票 0

返回值初始化

在C ++中使用随机性，我有这段代码：#include //不要初始化return int rand_int（）{} float rand_float（）{} int main（int argc，const char * argv []）...

c++ floating-point initialization

回答 3 投票 1

从2D列表中删除重复项（浮点）

在我的荣誉项目上使用3D扫描仪，我知道会有重叠的数据可能会弄乱网格曲面细分。我已经得到了[[x1 y1 z1] [x2 y2 z2]形式的二维数组中的所有点...

python list multidimensional-array floating-point duplicates

回答 3 投票 1

如何在Python 3中迭代浮点数？

所以现在我有一个变量x = 1001.0010101从这个x，我想分成两部分：x = 1001.0010101 val_int = int（x）#get val_int = 1001 val_fract = {0：.5f}“....

python python-3.x for-loop floating-point

回答 3 投票 -1

大浮点和的精度

我试图总结一个正向递减浮点的排序数组。我已经看到，总结它们的最佳方法是开始将数字从最低到最高加起来。我写这个代码有...

c floating-point precision numerical-methods

回答 2 投票 6

Lua math.floor返回错误的值

。有我的代码：for k，v in pairs（result）do result [k] = math.floor（v * 1000）/ 1000 if k == 215 then print（v，math.floor（v * 1000）） k的结束，v成对（额外）do extra [k] = math.floor（...

lua floating-point precision

回答 1 投票 0

在Java中向float中添加值会减慢到512

这一行在循环中执行：shape.setPosX（shape.getPosX（）+（。005f *（float）getDelta（）））; getDelta是自上一个循环以来经过的双精度数，通常平均值为~0.001。 ...

java floating-point floating-accuracy

回答 1 投票 1

python float'（）'的位置

请问有什么区别：return float（（Y2-Y1））/（X2-X1）和：return float（（Y2-Y1）/（X2-X1））我的整个代码是：class Line（object ）：def __init __（self，coor1，coor2）：self ....

python python-2.7 floating-point

回答 3 投票 -2

Python中epsilon的值

在Python中是否有（或获取方法）epsilon的标准值？我需要比较浮点值，并希望与最小的可能差异进行比较。在C ++中有一个......

python comparison floating-point epsilon

回答 3 投票 46

使用JSON.parse解析数量

Dos它存在一个最大浮点数，小数点后有两位数，可以用JSON.parse解析而不会丢失精度？例如：JSON.parse（'{“amount”：9999999999999.99}'）{...

javascript json floating-point precision

回答 1 投票 1

向下舍入浮动

首先让我给出32位浮点和十进制表示的十六进制和二进制。 0x5060000f = 01010000011000000000000000001111 = 15032400896 0x43800005 = 01000011100000000000000000000101 = 256 ....

floating-point numbers floating-accuracy

回答 1 投票 0

NAN传播和IEEE 754标准

我正在设计一个新的微处理器指令集（www.forwardcom.info），我想使用NAN传播来跟踪错误。但是，IEEE 754浮点存在许多奇怪的问题......

c++ floating-point nan ieee-754

回答 4 投票 8

floating-point 相关问题

最新问题