floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

核心中的Odin浮点转换：encoding/json

从json加载值时，如果我从json文件解析-10.0，它不会转换为-10.0而是-9.98.. 这是预期的行为吗？跟浮动有关系吗？当我简单地乘以 1 时...

json floating-point odin

回答 1 投票 0

如何以双精度打印？

我对 C 完全陌生，我正在尝试完成一项作业。练习是打印 tan(x)，其中 x 从 0 递增到 pi/2。我们需要以浮点型和双精度型打印它。我写了一个程序

c floating-point double

回答 2 投票 0

对于 IEEE 754 浮点数，下溢仍然比溢出更好吗？

在 20 世纪 70 年代的经典著作中，Richard Hamming 建议将浮点计算设置为更容易发生下溢而不是溢出。例如，如果您想计算 1 - 1/(exp(x)...

floating-point precision numeric numerical-methods underflow

回答 1 投票 0

python中默认的舍入模式，以及如何将其指定为另一种？

Python 中默认的舍入模式（舍入到最接近的值等）是什么？我们如何指定它？

python floating-point rounding

回答 4 投票 0

Rust 中如何处理 f64 等浮点数运算中的溢出

我想做这样的事情，这样我就可以处理我的表情溢出的情况 fn add(a : f64, b: f64) -> 结果{ a.checked_add(b)? } 但我找不到任何...

rust floating-point

回答 1 投票 0

对于小于 Number.MAX_SAFE_INTEGER 的数字，什么时候应该使用 BigInt64Array 而不是 Float64Array？

在 JavaScript 中，有两个类型化数组构造函数可以存储相当大的数字： const long = new BigInt64Array() const 双精度 = new Float64Array() 它们都代表 64 位数组...

javascript floating-point 64-bit bigint typed-arrays

回答 1 投票 0

如何处理 Rust 中的 f64 等浮点数运算中的溢出

我想做这样的事情，这样我就可以处理我的表情溢出的情况 fn add(a : f64, b: f64) -> 结果{ a.checked_add(b)? } 但我找不到任何...

rust floating-point

回答 1 投票 0

浮点数：为什么隐含的1会改变小数部分的值？

我正在从 ziglings.org 练习的评论中阅读有关浮点实现的信息，并且发现了有关它的信息。 // 进一步浮动： // // 举个例子，Zig 的 f16 是 IE...

floating-point

回答 1 投票 0

浮点数据类型如何进行模运算？

我正在尝试找出浮点数据类型的简单模数运算。浮动a=3.14f；浮点数b=10f；结果=a%b；我得到的结果= 3.14 使用十进制数据类型的另一个示例：小数p=10；德...

c# .net floating-point modulo

回答 3 投票 0

ctypes 中的半精度

我需要能够与 ctypes 结构中的半精度浮点值无缝交互。我有一个可行的解决方案，但我对此不满意：导入ctypes 导入结构体打包...

python floating-point ctypes

回答 1 投票 0

PostgreSQL 如何舍入双精度数字？

我了解双精度的工作原理（指数、尾数、取决于值的精度，而不是完全准确的数字......），我目前正在写一篇关于这个主题的博客文章。但使用时...

postgresql floating-point precision

回答 2 投票 0

当结果低于正常值时，Numpy Float 到 HalfFloat 的转换 RNE

我试图了解 NumPy 如何实现舍入到最接近的值，即使转换为较低精度格式时也是如此，在本例中，Float32 到 Float16，特别是当数字为正常值时...

numpy floating-point ieee-754

回答 1 投票 0

Python 认为 Euler 存在身份问题（cmath 返回奇怪的结果）

我的代码：导入数学导入数学 print "E^ln(-1)", cmath.exp(cmath.log(-1)) 它打印什么： E^ln(-1) (-1+1.2246467991473532E-16j) 它应该打印什么： -1 （仅供参考，谷歌检查我的

python floating-point cmath

回答 4 投票 0

PotgreSQL 如何舍入双精度数字？

我了解双精度的工作原理（指数、尾数、取决于值的精度，而不是完全准确的数字......），我目前正在写一篇关于这个主题的博客文章。但使用时...

postgresql floating-point precision

回答 1 投票 0

使用牛顿-拉夫森细化的 ieee_propose 库没有信号

我使用 ieee_propose 库并尝试进行牛顿-拉夫森细化。代码编译并模拟，但我没有收到任何信号。它与 ieee.float_pkg.all 库中的 float32 配合使用。但是，我想要

floating-point vhdl vivado

回答 1 投票 0

HP 2114/15/16 浮点转换

我有一些带有浮点值的文件，我在弄清楚它们的确切编码时遇到问题。我尝试了多种方法来转换为标准双精度值，但没有太多...

c# floating-point converters

回答 3 投票 0

浮点：MAX 和 INF 之间的距离

假设您有一个浮点类型的变量。 32 位或 64 位并不重要。您将最大可表示值分配给变量。典型的编程语言有一个常数...

floating-point precision

回答 1 投票 0

如何在 Rust 中对浮点数向量进行排序？

如果我有几个浮点数并尝试像这样对它们进行排序： fn 主() { 让 mut nums: Vec = vec![0.53, 3.18, 4.783, 9.0, -1.2, 0.0]; nums.sort(); println!(&q...

sorting rust floating-point

回答 1 投票 0

判断操作是否会导致溢出？

我的应用程序中有一些代表物理单位的类，例如温度。这些类能够拥有一些与之关联并更改的单位，例如 Celciu...

c# floating-point overflow

回答 3 投票 0

为什么不同平台的浮点输出不同？

据我所知，由于IEEE754标准，用户输入的极大数字并不能精确地以二进制格式存储。当这种不精确存储的值被转换回十进制时......

java jdbc floating-point cpu-architecture ieee-754

回答 1 投票 0

floating-point 相关问题

最新问题