floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

如何优雅地读/写结构体字段作为小端浮点数？

我编写了一些拦截数据包并修改它们的代码。数据包中的 4 个字节代表一个浮点值，但以相反的字节顺序（小端）。这会产生很多问题...

c++ arduino floating-point endianness arduino-esp32

回答 1 投票 0

浮点乘法中舍入是如何工作的？

float 0.7f 的准确值为 0.69999... 所以我认为 0.7f * 100f 的结果会低于 70，比如 69.99999... 但结果恰好是 70。浮点乘法涉及这样的吗

floating-point rounding multiplication floating-accuracy fixed-point

回答 1 投票 0

为什么使用set_printoptions（精度=1）后张量的浮点数仍然波动

我遵循了一个教程，该教程展示了如何以正确的方式进行张量运算。他们说，通常张量之间的运算是通过迭代张量 arr 的循环手动完成的......

python pytorch floating-point tensor

回答 1 投票 0

为什么浮点小数在被截断并转换为字符串后仍会重新出现？

我需要在变量中存储一个带有n位小数的浮点数，但这看起来太复杂了。如果我运行这段代码：浮动测试浮动= -18.479999542236328f; System.out.println(getFloatAsStringIWithNDecimals(tes...

java floating-point

回答 1 投票 0

为什么输出的数字不同？

在这个程序中，当我输入 3 个数字 13, 179, 0 时，我从 2 个等效程序中得到 2 个不同的输出，第一个 - 202 26，第二个 - 202 27。为什么？ P = int(输入()) X = int(输入()) Y = int(输入()) # ...

python floating-point

回答 1 投票 0

可以按 MSB 对 IEEE754 浮点进行排序吗？

我一直在做一些低级位操作，最终创建了一种算法，作为副产品，按重要性降序排列的八位字节（LE = 7 -> 0；BE = 0 -> 7）对 64 位浮点数进行排序。当

algorithm sorting floating-point bit-manipulation radix-sort

回答 1 投票 0

限制纬度和经度值的模数

我有代表纬度和经度的双精度值。我可以使用以下函数轻松将经度限制为 (-180.0, 180.0]。双极限Lon(双Lon) { 返回 fmod(lon - 180.0, 360.0...

c math floating-point intervals modulo

回答 4 投票 0

Rust 中可以在编译时设置浮点舍入模式吗？

我想在 Rust 中使用区间算术，为此我需要向上或向下设置舍入模式。据我从一些搜索中了解到，设置舍入模式会影响

floating-point rust rounding

回答 2 投票 0

.double 类型的变量是否存储在两个寄存器中？

当我声明一个整数时，我使用指令 .word，它有 32 位，如果我正确的话，这也是 MIPS 架构中寄存器的大小。现在，根据我的理解，.double 应该是......

assembly floating-point mips cpu-architecture cpu-registers

回答 2 投票 0

如何在 Go 中将 Float64 转换为 Base36？

我说过值0.36388617850285954，当我使用Javascript .toString(36)函数时，我得到输出“0.d3lh1pogpwk”。我想在 golang 中复制这个，但是我没有真正的开始......

go floating-point radix base36

回答 2 投票 0

检查两个顶点是否相等是否正确且一致？

我正在编写一个 Typescript 游戏，其中有绘制到画布上的顶点，以及来自它们的一些边。我想确定来自不同顶点的某些边是否相交。为此，我就是我们...

typescript floating-point geometry line precision

回答 1 投票 0

如何阻止 SymPy 在 srepr() 的输出中输出分数的浮点表示形式

我遇到的问题是，当我在 sympy 函数中有一个分数作为指数时，srepr 会计算该分数并返回一个浮点数。我希望分数保留在快递中......

python floating-point sympy expression-trees fractions

回答 1 投票 0

在 Javascript 中将“float”转换为字节，无需 Float32Array

好吧，我遇到了一个相当烦人的情况，我无法访问类型化数组（例如 Float32Array），但仍然需要能够将 Javascript 数字转换为字节。现在，我可以得到一个整数

javascript floating-point type-conversion

回答 4 投票 0

如何避免 `std::to_string()` 将一个非常小的双精度数变为 0？

我需要将非常小的双数存储为字符串格式，然后将它们反转。但是，当我尝试在 4.7816457028269855e-143 这样的小数字上运行 std::to_string() 时...

c++ floating-point double c++14 tostring

回答 3 投票 0

x86 上三角指令的错误是什么？

在哪里可以找到有关 x86 处理器上三角函数指令（例如 fsincos）的错误范围的信息？

math x86 floating-point trigonometry x87

回答 3 投票 0

如何确定给定浮点常量可以表示的无转换？

如何确定给定浮点常量可以表示的无转换？示例代码： #定义FLOATING_CONSTANT1 2147483647.0f #定义 FLOATING_CONSTANT2 2147483520.0f 布尔 b1 =

c floating-point constants c11 c17

回答 3 投票 0

将文件中的文本转换为浮动

我正在为 3d 引擎制作搅拌机模型加载器，尝试转换其中包含浮点数的特定行，例如：(v 1.000000 -1.000000 1.000000), 我尝试将文件（字符串）中的数字转换为带有 s 的浮点数...

c++ string floating-point numbers

回答 1 投票 0

如何检查 bash 中定义的任意数字，作为值、字符串或引用传递？

我一直在寻找一种扩展检查方法，涵盖各种有效数字，作为值、字符串或 var 引用传递给方法，但大多数解决方案都采用基本情况，例如普通 int 或 float

validation floating-point numbers hex scientific-notation

回答 1 投票 0

为什么每当有特殊字符时我都会收到 ValueError ？

我正在尝试将输入的数字添加到列表中。 box = [int(x) for x in input("在此输入数字：").split()] box.sort(反向=False) 打印（盒）每当我...时，此代码都会出现 ValueError

python list floating-point integer

回答 2 投票 0

如何忽略输入中的特殊字符？

python list floating-point integer

回答 2 投票 0

floating-point 相关问题

最新问题