floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

Python List to Float转换[关闭]

我的一个网页刮擦的结果产生以下：price = ['$ 1049.98']这是类型列表，我试图将其转换为浮点数。

python python-3.x list floating-point

回答 3 投票 -1

如何解析八进制字符串作为Rust中的浮点数？

我需要取一个八进制字符串，例如“42.1”，并从中获取一个浮点数（34.125）。在Rust中最好的方法是什么？我看到之前有一个from_str_radix函数，但它现在已被删除。

parsing floating-point rust

回答 1 投票 0

Erlang浮动和截断

Windows上的R15b给出：> trunc（1.9999999999999999999）。 2就此而言，只需键入float返回：> 1.9999999999999999999。 2.0 AFAIK，截断功能应该......

erlang floating-point truncate

回答 2 投票 1

Python：将字符串转换为十进制数

我有一个python列表，其中包含以下格式的字符串：A1 = ['“29.0”'，'“65.2”'，'“75.2”']如何将这些字符串转换为十进制数以对列表元素执行算术运算？

python string floating-point decimal

回答 6 投票 22

去漂浮比较[重复]

为了比较Go中的两个浮点数（float64）是否相等，我对IEEE 754的表面理解和浮点数的二进制表示使我认为这是一个很好的解决方案：func Equal（a，b ...

go floating-point ieee-754

回答 2 投票 -1

不能将小数舍入到R中的两位小数

我尝试了不同的函数将小数舍入为两位数，例如format（），formatC（），signif（）和round（）。它们都不能真正将所有小数舍入到小数点后两位。例如，我......

r floating-point

回答 1 投票 0

MASM汇编 - REAL4浮点指令

我正在尝试使用REAL4数据类型将浮点数存储在数组中。以下是什么正确的说明？从用户获取输入并存储在数组中？例如这样做但是......

assembly floating-point x86 masm32

回答 1 投票 1

WebAssembly：（f32.const nan：0x200000）表示0x7fa00000或0x7fe00000

在C中，strtof（“nan（0x200000）”，nullptr）表示为0x7fe00000。但是在WebAssembly spec解释器测试中：（assert_return（调用“f32.reinterpret_i32”（i32.const 0x7fa00000））（f32.const nan：...

c floating-point nan webassembly

回答 1 投票 0

round（）for C ++中的float

我需要一个简单的浮点舍入函数，因此：double round（double）; round（0.1）= 0 round（-0.1）= 0 round（-0.9）= -1我可以在math.h中找到ceil（）和floor（）但不是round（）。是吗 ...

c++ floating-point rounding

回答 20 投票 225

浮点舍入误差会将报告结果移动到范围内

我正在开发一个函数来报告测试结果以及该特定测试结果的下限和上限。这三个值将使用指定的公式（aX + b）/ c进行转换，其中X是......

c floating-point rounding floating-accuracy

回答 2 投票 0

相当于elm（或javascript）中的std :: nextafter（下一个可表示的浮点数）

有没有办法在Elm中获得c ++的std :: nextafter的功能？我很高兴使用外部JavaScript函数，如果这是唯一的方法。对于背景，std :: nextafter是一个带...的函数

javascript floating-point elm

回答 1 投票 0

h5py矩阵存储精度

我想使用Python3-h5py将矩阵存储到.HDF5格式我的问题是，当我将初始数据与从HDF5文件中提取的数据进行比较时，我得到了惊人的差异。进口numpy ...

python-3.x numpy floating-point precision h5py

回答 1 投票 1

避免浮点数的不准确性

我完全理解与浮点相关的问题，但我看到了一个我无法解释的非常有趣的行为。 float x = 1028.25478; long int y = 102825478; float z = y /（...

c floating-point numbers precision

回答 3 投票 4

具有2或1的补码尾数的浮点系统是否可以归一化？

据我所知，归一化的尾数是一个分数尾数，其中它是更重要的位，等于1/2的那个总是1.这样做是为了避免重复表示...

floating-point twos-complement ones-complement

回答 1 投票 1

错误83错误C2398：从'double'转换为'float'需要缩小转换

我发现了许多关于此错误的帖子，但我可以找到如何克服它。这是触发错误的代码：void main（）{float f {1.3};为什么在initialize-list中没有强制转换......

c++ c++11 casting floating-point compiler-bug

回答 4 投票 8

浮点值返回swift中[String：AnyObject]的双引号

我不知道为什么当我使用[String：AnyObject]时浮点值总是带有双引号。你们有一些方法可以让我得到正确的结果吗？ let appliedLoyalty：Float = 1 ....

ios swift swift3 floating-point anyobject

回答 2 投票 0

如何降低C中双精度？

我试图降低C中双变量的精度来测试对结果的影响。我尝试了一点点＆，但它给出了一个错误。我如何在float和double变量上执行此操作？

floating-point double precision

回答 2 投票 0

如何在不使用内置函数的情况下计算数字的平方根？ [重复]

如何创建一个返回给定数字的sqrt的方法？例如：sqrt（16）返回4并且sqrt（5）返回2.3 ...我使用Java并且知道Math.sqrt（）API函数但我需要...

algorithm math floating-point square-root

回答 5 投票 14

为什么在.NET中将两个双倍相乘时会发生这种情况[重复]

当倍增时，我面临着相当奇怪的行为。制作一个简单的控制台应用程序并尝试使用代private static void Main（string [] args）{var b1 = 3.1 * 100D; var a1 = 4.1 * ...

c# .net floating-point floating-accuracy

回答 1 投票 -1

猫鼬使用浮动作为关键

我正在尝试使用浮点数作为mongodb数据库中的键，因为我必须存储每个货币值的相应数量（例如0.01：10）。但是当我尝试通过mongoose保存数据时（节点服务器使用...

javascript mongodb mongoose floating-point mongoose-schema

回答 2 投票 0

floating-point 相关问题

最新问题