decimal 相关问题

十进制是我们共同的十进制数字系统的名称。它也可以指用小数点表示的非整数值。

在Python中，你能在只显示两位小数的情况下获得长小数的全部效用吗？

我有一对盒子。一是针对劳动时间。另一个是劳务费。当您输入工时金额时，它会自动计算并填充人工美元框。当您进入分娩状态时

python tkinter floating-point decimal precision

回答 1 投票 0

python递归将十进制转换为十六进制

如何递归或迭代地将十进制更改为十六进制？我写了一个示例程序，但实际上不起作用： def ChangeHex(n): 如果 (n < 0): print(0) elif (n<...

python recursion decimal hex

回答 3 投票 0

同时处理“,”和“.”的方法作为小数点分隔符

我有一个程序，用户可以复制 Excel 表格并将其粘贴到程序本身上进行数据分析。该表允许的唯一值是浮点数。问题是有 4 种不同的...

python formatting decimal locale

回答 1 投票 0

7 段解码器将 8 位二进制数转换为十进制数

我目前是使用 QuartusII 在 VHDL 中对 FPGA 板进行编程的初学者。我需要将 std_logic_vector 类型的 8 位数字转换为三个单独的 4 位 std_logic_vector 变量，以便...

binary decimal vhdl fpga quartus

回答 1 投票 0

在 C# 中将十进制转换为字节数组，但它必须可以按字典顺序排序

对于 double BitConverter.GetBytes(double) 反转返回的数组，如果按字典顺序排序，则与（正）双精度数排序相同。对于十进制也可以做同样的事情吗？例如，变量...

c# decimal

回答 1 投票 0

浮点数转换过程中可能会损失精度

我在 Google 上搜索了如何在 Java 中获取浮点数的 2 位小数。下面是我的代码。最后，这里 float TotalWeight = 0.1*levinWeight+0.8*lsmWeight; 我收到可能会损失精度的错误？我...

java decimal precision

回答 3 投票 0

如何在R Shiny中的数据表中始终显示3个小数位？ [已关闭]

我需要在表中显示 3 位小数的数据，但事实证明，当我运行应用程序时，它不显示 3 位小数。虽然当我尝试与它交互时它显示 3

r shiny decimal dt

回答 1 投票 0

df.to_excel 将小数列转换为文本

我有一个 DataFrame，其中某些列使用 Decimal 数据类型。我想将此数据导出到 Excel 电子表格，并保留小数/数字格式。但是，我的代码将列转换为

python excel pandas decimal python-decimal

回答 2 投票 0

使用Math.round四舍五入到小数点后一位？

我有这两个变量双数 = 540.512 双倍总和 = 1978.8 然后我做了这个表达双精度总计 = Math.round((num/ sum * 100) * 10) / 10; 但我最终得到的是 27.0。其实我有很多

java decimal rounding

回答 10 投票 0

在 SQL Server Management Studio 中保存十进制值

我希望在 SQL Server Management Studio 中保存十进制值。它们只是以四舍五入到最接近值的整数值形式出现。这是怎么做到的？如果需要更多信息，我可以获取。

sql sql-server decimal ssms

回答 1 投票 0

如何在 bash 中将大十进制转换为十六进制？

我需要将一个非常大的数字转换为十六进制形式（没有空格，没有任何东西，例如8ac7230489e80001）。使用 printf 会出现超出范围的错误。 printf '%x '“24267339429148234667523” -bash：

bash hex decimal biginteger

回答 1 投票 0

出于对 Rust 的兴趣，为什么我的测试通过使用百分比浮点数而不是全整数基点而不会损失精度？

这绝对不是《为什么不使用 Double 或 Float 来表示货币？》的重复。 - 我知道我不应该使用浮点数来表示货币，这已在

rust decimal

回答 1 投票 0

验证 C# 中的小数以存储在 SQL Server 中

我有一个十进制数据库列十进制（26,6）。据我所知，这意味着精度为 26，小数位数为 6。我认为这意味着该数字的长度总共可以是 26 位数字并且...

c# sql-server clr decimal

回答 2 投票 0

出于对 Rust 的兴趣，使用浮点数表示百分比而不是整数基点会失去精度吗？

这也可能被认为是一个数学问题，但我想专门使用 Rust 进行演示。例如，0.02 的二进制表示为 1.010001111010111000010100011110101110...。我曾从事过其他金融软件...

rust decimal

回答 1 投票 0

如何将全精度十进制值插入clickhouse？

即使在 clickhouse 中使用 Decimal() 类型后，长精度值也会被截断。如何解决这个问题？例如，值 5914.922286612016543134 被截断并插入为 5914。

decimal precision clickhouse

回答 1 投票 0

PHP 使用 php 随机生成器函数创建不重复范围的浮点数

我正在管理一个函数，该函数可以改变数字的 range_pool ，并在它们之间设置小数点。我想找到一个解决方案，确保这些数字在...时不会重复（创建重复项）

php random decimal

回答 1 投票 0

Pandas 数据框中的浮点数据类型对于高精度十进制值的行为不一致

Pandas 数据框给出了不正确的高精度十进制值。例如： oracle表中的数据是 45.200000000000003 12.699999999999999 99.745663 oracle中的数据类型是number(28...

pandas dataframe decimal precision

回答 1 投票 0

在 C 中将十六进制数打印为十进制数

我正在尝试在 C 中将十六进制数字打印为十进制。 int main() { 无符号长十六进制 = 0xb5389e0c721a； printf("十进制的十六进制：%lu", hex); getch(); 返回0； } 由此，我的输出是

c hex printf decimal

回答 4 投票 0

JavaScript：在 0.5 情况下向下舍入

我遇到的情况是 JavaScript 函数生成数字，例如 2.5。我想让这些五点数字向下舍入为 2，而不是 Math.round 的结果，后者总是会...

javascript decimal rounding

回答 4 投票 0

Python 中递增到最后一位小数

我想在给定浮点数或字符串时在python中编写函数，例如0.003214返回0.003215，但是如果我给它0.00321返回0.003211，它将适用于其他浮点数，例如0.0000...

python python-3.x floating-point decimal increment

回答 1 投票 0

decimal 相关问题

最新问题