floating-point 相关问题

浮点数是实数的近似值，可以表示比整数更大的范围，但使用相同数量的内存，代价是精度较低。如果您的问题是关于小算术错误（例如为什么0.2 + 0.1等于0.300000001？）或十进制转换错误，请在发布之前阅读下面链接的“信息”页面。

在Python中，你能在只显示两位小数的情况下获得长小数的全部效用吗？

我有一对盒子。一是针对劳动时间。另一个是劳务费。当您输入工时金额时，它会自动计算并填充人工美元框。当您进入分娩状态时

python tkinter floating-point decimal precision

回答 1 投票 0

为什么我的 Python 中的浮点数二分搜索实现失败？

我正在Python中为包含浮点数的排序列表实现二分搜索算法。然而，由于 prec...

python algorithm floating-point binary-search

回答 1 投票 0

为什么我的 RISC-V FCVT.W.D RTL 实现对于输入 0xC1E0000000000000 返回 0x00000000，而不是 0x80000000？（这是一个极端情况）

我正在调试 RISC-V FCVT.W.D（IEEE 754 格式下的双精度到有符号整型转换）指令的 RTL 实现与其在参考模型中的行为之间的差异...

floating-point system-verilog ieee-754 register-transfer-level riscv32

回答 1 投票 0

常量表达式在赋值时需要宽度不匹配。不可合成的 VHDL 代码行

我正在尝试实现一个浮点加法器/减法器。我已经实现了可以工作的代码。当我运行模拟时，它按预期工作。问题是当我尝试在 Vivado 中合成它时......

floating-point vhdl

回答 1 投票 0

为什么 IEEE 754 将 1 ^ NaN 定义为 1，为什么 Java 和 Javascript 违反了这一点？

IEEE 754 将 1 ^ n 定义为 1，无论 n 是多少。（我不会支付 106 美元来亲自证实这一点，但本文引用了 2008 年标准的第 44 页来证明这一点。）大多数编程语言似乎

javascript java floating-point ieee-754

回答 1 投票 0

我可以将字符串转换为具有最小小数点精度值的浮点数吗？

我正在研究从字符串中提取浮点数的东西。我注意到某些值会导致浮点值稍微不准确。关于这个主题的一些研究几乎告诉我......

c++ floating-point

回答 1 投票 0

-ffinite-math-only 促进了哪些优化？

我在文档和网络中可以找到的有关 -ffinite-math-only 的所有信息是“允许对假设参数和结果不是 NaN 或 +-Infs 的浮点算术进行优化......

gcc optimization floating-point

回答 1 投票 0

为什么循环不中断（浮点数精度）

我一直在尽一切努力让它发挥作用。所以基本上我希望程序在点后的数字变化少于 14 位数字后停止。但显然这种情况从未发生过。 #

c floating-point precision

回答 1 投票 0

如何在SQLite中使表中的列具有浮点值？

我正在数据库中制作一张表，其中一列需要存储浮点数。但是，当我要求 SQLiteDatabase 创建...

java android sqlite floating-point create-table

回答 1 投票 0

如何在表格中创建具有浮点值的列？

我正在数据库中制作一张表，其中一列需要存储浮点数。但是，当我要求 SQLiteDatabase 创建...

java android sqlite floating-point create-table

回答 1 投票 0

如何在运算过程中使 Rust 浮点精度与 JavaScript 精度相同？

我目前正在开发一个项目，将 js 代码移植到 Rust。在某些边缘情况下会反复出现问题，其中两个浮点数相加在一起并生成一个证书...

javascript rust floating-point precision

回答 1 投票 0

C 中是否有对浮点数进行四舍五入的函数，或者我需要编写自己的函数吗？

C 中是否有一个函数可以对浮点数进行四舍五入，还是我需要编写自己的函数？浮动转换器= 45.592346543；我想将实际值四舍五入到小数点后一位，conver = 45.6。

c floating-point rounding

回答 7 投票 0

Numpy 错误：exp 中遇到下溢

我正在尝试定义一个简单的指数，无论我放入指数参数中的数字如何，我都会得到以下结果： FloatingPointError：exp 中遇到下溢 ar...

python numpy error-handling floating-point

回答 2 投票 0

Go 中浮点文字的精度

为什么这些行给出不同的结果？ log.Printf("%v ", (float64(1.0 - 0.94))) // 0.06 log.Printf("%v ", (float64(1.0) - float64(0.94))) // 0.06000000000000005 ...

go floating-point precision

回答 1 投票 0

以 double 形式传递浮点值时的双精度

我对双精度有疑问。当将浮点值传递给双精度时，我会得到一些不同的结果。例如浮动 f= 54.23f；双 d1 = f; System.out.println(d1); 输出...

java floating-point double

回答 5 投票 0

浮点数有负零吗？ (-0f)

IEEE 浮点数有一个指定位来指示符号，这意味着从技术上讲，您可以使用不同的零二进制表示形式（+0 和 -0）。有没有算术运算我可以...

floating-point language-agnostic negative-zero

回答 10 投票 0

php 整数 - 当 echo 时显示 2 位小数，如果打印到 CSV 则显示 .0999999

使用 http://www.maatwebsite.nl/laravel-excel/ 导出到 CSV 和 Excel。我有一个 $rows 数组，其中包含所有行及其列。有些列使用 number_format(ro...

php floating-point rounding precision number-formatting

回答 1 投票 0

将混合字母数字/数字数据从 Excel 导入 R 时避免浮点错误

我有一个 Excel 文件，其中有一列可变长度的字母数字代码 - 请参阅问题末尾的示例。我一直在尝试使用 readxl 库将其读入 R： read_xlsx("文件.xlsx&

r excel floating-point

回答 1 投票 0

sin() 对于不同平台返回的结果略有不同

我在 CI 期间注意到这段代码 #包括 #包括 int main() { 常量双 d = 3.81219767052986080458； fprintf(stderr, "%.20f “，罪（d））；

c floating-point

回答 1 投票 0

在 C 语言中比较 double 与文字值在 32 位机器上会给出不同的结果

有人可以解释一下原因吗：双 d = 1.0e+300； printf("%d “，d==1.0e+300); 在 64 位机器上按预期打印“1”，但在 32 位机器上打印“0”？（我在 Fedora 25 上使用 GCC 6.3 得到了这个......

c gcc x86 floating-point 32bit-64bit

回答 1 投票 0

floating-point 相关问题

最新问题