floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

编译时检查 -fsingle- precision-constant

我从接受的答案中了解到使 C 浮点文字浮点（而不是双精度）并且进行讨论， GCC 提供编译器标志 -fsingle- precision-constant 来强制浮点

c gcc floating-point literals static-assert

回答 1 投票 0

定义 d2r=m.radians(1) 时出现类型错误“float”对象不可调用

我有一个奇怪的场景，理论上，一行非常简单的代码不应该给出错误，因为我已经看到它在其他 .py 文件中工作，但是当我在自己的代码中实现它时，我得到以下

python-3.x floating-point

回答 1 投票 0

将双精度型转换为浮点型时的精度问题

JDK在ThreadLocalRandom中有一个random方法： nextDouble(开始包含，结束结束) 但没有浮动版本。这里我想要浮动版本，这是我的实现：公共静态浮动 nextFloat(...

java floating-point double

回答 1 投票 0

将 double 转换为 float 时的 Java 精度问题

JDK在ThreadLocalRandom中有一个random方法： nextDouble(开始包含，结束结束) 但没有浮动版本。这里我想要浮动版本，这是我的实现：公共静态浮动 nextFloat(

java floating-point double

回答 1 投票 0

将 float 转换为 double 时的 Java 精度问题

JDK在ThreadLocalRandom中有一个random方法： nextDouble(开始包含，结束结束) 但没有浮动版本。这里我想要浮动版本，这是我的实现：公共静态浮动 nextFloat(

java floating-point double

回答 1 投票 0

Go中float64和complex128类型的最大值

我需要知道golang中float64和complex128变量类型的最大值。 go 似乎没有 float.h 的等价物，我不知道如何计算它。

variables go floating-point

回答 2 投票 0

为什么 Tcl 8.4 和 8.5 之间显示的浮点数的表观精度会发生变化？

我观察到 tcl8.6.6 的精度值不正确。此行为更改是从 tcl 8.5 开始的。我没有修改过tcl_ precision。在tcl8.5和tcl8.6中默认为0 这是参考...

floating-point tcl

回答 1 投票 0

位置编号系统

我一直在研究浮点数的局限性，并了解了我们的算法由于使用浮点数而遭受的“精度损失”。然后我学会了...

floating-point hpc

回答 1 投票 0

如何以 constexpr 方式将整数转换为 CUDA 的 __half FP16 类型？

我是空中客车的开发人员，我面临着半精度算术的困难。在库中的某个时刻，我需要在 constexpr 中将 IntType 转换为相关的 FloatType（相同的位数）

c++ floating-point cuda constexpr half-precision-float

回答 2 投票 0

SET 命令 - 浮点数？

如何在Windows中使用SET命令进行浮点运算。 /A 代表算术，%VAR% 打印 VAR 的数据而不是名称。例如当我这样做时：设置 /A VAR=“2.5+3.1” 回波%VAR%

windows batch-file floating-point set var

回答 3 投票 0

int16_t 到 __half constexpr 转换

我是空中客车的开发人员，我面临着半精度算术的困难。在库中的某个时刻，我需要在 constexpr 中将 IntType 转换为相关的 FloatType（相同的位数）

c++ floating-point cuda constexpr half-precision-float

回答 1 投票 0

If 语句无法计算基本浮点问题

我正在阅读 Bjarne Stroustrup 的《Programming-Principles And Practice Using C++》一书，目前我被第 4 章的第 5 个“练习”问题难住了。有一个服务...

c++ if-statement while-loop floating-point double

回答 1 投票 0

在 Ruby 中使用大整数将小数正确转换为浮点

出于学习目的，我正在尝试实现将十进制字符串转换为 64 位浮点数的算法的核心部分。我使用此页面的解释作为指导：ht...

ruby floating-point decimal

回答 1 投票 0

在 C# 中从浮点数中减去一个值并将其加回来不会给出原始值[重复]

上下文：我试图确定两个角度，当两个角度相加 d 次时，等于 6.28319 弧度（或 360 度）。下面是我的代码，我在其中计算 dTheta（6.28319 弧度除以...

c# unity-game-engine math floating-point trigonometry

回答 1 投票 0

为什么float类型和decimal类型有区别

在 SQL Server 数据库中，我的表中的浮点列中存储了一个值，对应于格式为“秒.毫秒”的持续时间，我想要微秒数。我有

sql sql-server floating-point decimal

回答 1 投票 0

如何解决Float型机器Epsilon计算错误？

#包括无效 get_eps(浮点 *eps) { *每股收益=1.0f； while ((1.0f + *eps / 2.0f) != 1.0f) { *每股收益/= 2.0f； } } int main(){ 浮动 eps； get_eps(&eps);

c floating-point floating-accuracy epsilon

回答 1 投票 0

如何组合有效数字、列宽和对齐说明符？

我想打印具有一致列宽的双精度数。这些数字代表美元价值，因此我也希望小数点后的数字不超过两位。在这里我打算...

c floating-point printf format-specifiers

回答 1 投票 0

以最有效的方式使用 64 位浮点类型时可以在一个范围内表示多少个值[重复]

给定 64 位浮点类型 (ieee-754) 和闭范围 [R0,R1]，假设 R0 和 R1 都在可表示范围内并且不是 NaN 或 +/-inf 等。如何计算这个数字...

floating-point ieee-754

回答 2 投票 0

为什么现代编译器更喜欢 SSE 而不是 FPU 来进行单浮点运算

我最近尝试读取代码的二进制程序集，发现很多浮点运算是使用 XMM 寄存器和 SSE 指令完成的。例如，以下代码：佛罗里达...

c++ c assembly floating-point sse

回答 1 投票 0

C++：计算给定范围内可能的浮点值的数量

我正在开发一个加密应用程序，使用 Crypto++ 作为此应用程序的一个模糊部分，我需要确定某个数字中可以存在的唯一浮点值的最大数量

c++ algorithm floating-point comparison standards

回答 2 投票 0

floating-point 相关问题

最新问题