floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

Python skimage：将灰度图像数组转为浮点数使图像使用颜色而不是灰度

当使用python中的skimage.io模块读取灰度图像时，它按预期工作。但是，对保存值的 numpy 数组执行任何操作都会导致它们更改为浮点数...

python numpy matplotlib floating-point scikit-image

回答 1 投票 0

英特尔 Fortran 编译器在三倍精度上被碾压

我试图编译一个具有三重精度的 f90 文件（我知道这并不常见，但是，无论如何......）。几分钟后，它说： ifort：错误 #10106：/opt/intel/Compiler/1 中出现致命错误...

floating-point fortran intel-fortran

回答 1 投票 0

Delphi 6 编译器选项（奔腾安全 FDIV）

我收到了一位用户来自 MadExcept 的崩溃报告。异常是无效的浮点运算。但奇怪的是，调用堆栈在 @FSafeDivide 处终止。我谷歌了一下，发现...

delphi floating-point division

回答 3 投票 0

与 int 相乘的双倍在 .NET Core 中变得不太准确

我正在使用不同版本的.NET 尝试此代码块：使用系统；使用 System.Linq；公开课节目 { 公共静态无效Main（） { 德...

.net .net-core floating-point double precision

回答 1 投票 0

浮点加减后小于等于比较

在一系列浮点算术运算之后与浮点数进行小于等于比较是否有“最佳实践”？我在 R 中有以下示例（尽管问题

r floating-point floating-accuracy epsilon inexact-arithmetic

回答 1 投票 0

在对浮点数进行相等比较时，我应该如何确定容差？

我认为比较浮点数的相等性通常被认为是不好的，因为可能会损失精度，但是在某些情况下它绝对是必要的......

math floating-point

回答 1 投票 0

双精度和单精度浮点数？

我想知道为什么双精度和单精度数字有时相等，有时不相等。例如，当我有以下内容时，它们不相等：将 numpy 导入为 np x=np.float64(...

python numpy floating-point precision single-precision

回答 3 投票 0

Dipy - 属性错误：AttributeError：模块“numpy”没有属性“float”

我正在使用 Dipy 库，当我尝试导入其中一个函数时，我收到了此属性错误： AttributeError：模块“numpy”没有属性“float”。 `np.float` 已被弃用...

python numpy floating-point attributeerror

回答 1 投票 0

在C中，以可移植的方式提取双精度数的尾数作为long long

函数 frexp(3) 返回双精度 x 的标准化尾数 xm，其值为 [0.5,1.0)，除非 x=0。所以我可以将其转换为 long long，如下所示：整数即； // 将在下一行设置 ...

c floating-point binary-data math.h

回答 1 投票 0

math.h ceil 未按 C 中的预期工作

ceil() 为何对没有小数部分的偶数浮点数进行四舍五入？当我尝试这样做时：双 x = 2.22； x *= 100； //变成222.00... printf("%lf", ceil(x)); //打印 223.00... (?...

c math floating-point

回答 6 投票 0

浮点精度是52位还是53位？

我不断看到这种关于 64 位 IEEE 浮点表示中 53 位精度的废话。有人可以向我解释一下世界上怎么会有一个被 1 困住的小东西吗...

floating-point ieee-754 floating-point-precision

回答 3 投票 0

直观上为什么成对求和比朴素求和误差更小

在 numpy sum 文档中 https://numpy.org/doc/stable/reference/ generated/numpy.sum.html 它提到，它使用成对求和来代替朴素求和以获得更好的错误率我很困惑...

python numpy sum floating-point precision

回答 1 投票 0

如何 MAX_SAFE_INTEGET 2 ** 53 - 1

我们知道在 Javascript 中它使用 STD IEEE 754 双精度，并且我们知道尾数部分是 52 位，并且存在隐式 1 位但未存储但如果它没有按实际情况存储...

javascript floating-point

回答 1 投票 0

Java的浮点实现还存在Kahan指出的问题吗？

今晚我读了 Kahan 的几篇论文，以及他针对 Java 的著名咆哮。在我深入研究 JVM 规范之前，自最初在这方面的咆哮以来有什么变化吗？例如：设置圆...

java floating-point

回答 2 投票 0

跨平台网络代码是否需要序列化浮点数？

我正在阅读本关于网络编程的指南，我非常喜欢：https://beej.us/guide/bgnet/html/split/slightly-advanced-techniques.html#serialization 虽然我对某些事情感到困惑......

c network-programming serialization floating-point ieee-754

回答 1 投票 0

尝试在 C++ 中计算汉明权重时发生溢出

我正在尝试编写一个简短的代码来计算整数的汉明权重：类解决方案{ 民众： int 汉明权重(int n) { 如果（n==0）{ 返回0； }别的{ ...

c++ recursion floating-point precision integer-overflow

回答 2 投票 0

OpenGL：GL_R11F_G11F_B10F 的精度对于 8 位 RGB 图像来说好吗？

从“图像格式”中，我们看到： 11 位浮点数没有符号位；它有 6 位尾数和 5 位指数。从“半精度浮点格式”中，我们可以推断出......

image opengl floating-point precision pixelformat

回答 1 投票 0

std::numeric_limits::epsilon() 用于双精度算术

我正在为C++11设计一些双双精度和四双精度算术库。部分代码基于 https://www.davidhbailey.com/dhbsoftware/ 的 QD 和 DDFUN 库。结构

c++ floating-point double-double-arithmetic

回答 1 投票 0

比 float 或 double 更精确的数据类型？

C++ 是否有比 float 或 double 更准确的数据类型，或者我是否只需要满足于我的计算将会失败的事实？编辑：正如李斯特先生所指出的，我的问题是……

c++ floating-point floating-accuracy decimal

回答 2 投票 0

比 float 或 double 更准确的数据类型？ C++

C++ 是否有比 float 或 double 更准确的数据类型，或者我是否只需要满足于我的计算将会失败的事实？编辑：正如李斯特先生所指出的，我的问题是尊重......

c++ floating-point floating-accuracy decimal

回答 2 投票 0

floating-point 相关问题

最新问题