decimal 相关问题

十进制是我们共同的十进制数字系统的名称。它也可以指用小数点表示的非整数值。

在 .NET 中，等于“int”的“decimal”总是会转换为“int”

在.NET中，假设小数不是大到无法表示（或导致溢出），那么等于int的小数是否总是会转换为它等于的int？同样的任务...

.net integer decimal long-integer

回答 1 投票 0

如何表示负的十六进制数？

如果我有一个负十进制数，例如-5，并将其转换为十六进制格式。我可以简单地在十六进制数前面加上一个负号吗？或者还有其他的吗...

hex decimal

回答 2 投票 0

将浮点基数 2 转换为基数 10 至 100+ 小数位 [已关闭]

我正在尝试为“素数常数”找到更多的小数位。使用 getcontext().prec=100 后输出最大为 51 位小数从十进制导入 * getcontext().prec = 100 基数 = 2 s = &

python math binary decimal radix

回答 2 投票 0

Python - 将浮点基数 2 转换为基数 10 到 100+ 小数位

我正在尝试为“素数常数”找到更多的小数位。使用“getcontext().prec=100”后，输出最大为小数点后 51 位从十进制导入 * getcontext().prec = 100 基数 = 2 ...

python math binary decimal radix

回答 1 投票 0

如何将Python小数四舍五入到小数点后两位？

我有一个Python Decimal（货币金额），我想将其四舍五入到小数点后两位。我尝试使用常规 round() 函数来执行此操作。不幸的是，这会返回一个浮点数，这使得它

python floating-point decimal rounding floating-point-precision

回答 8 投票 0

如何提高 Python DataFrame 中小数点的精度？

我正在用Python开发一个系统，它复制了用LabWindows编写的另一个系统。设计的一部分涉及计算周期图，它返回一个十进制数组。然后我将此数组添加到

python dataframe decimal signal-processing precision

回答 1 投票 0

Python - 尝试计算 pi 的数字，但无法超过小数点后 48 位数字

我正在尝试编写一个程序来使用Python中的Nilakantha系列来计算pi的数字。每次运行它都不会给我超过 50 位小数。还在学习 python 所以他...

python decimal precision pi

回答 2 投票 0

SQL 将价格中的单位和小数分开

我 MySQL 中的价格列包含以下值：价格 1020.2200 202.0000 0.5000 820.6700 我想在浮点处分割。这是我想要得到的：价格 p_单位 p_小数 ...

sql decimal digits

回答 1 投票 0

在解释器和脚本中进行Python精确数学计算，无需一直输入十进制模块

我注意到Python中的数学运算不像以前那么精确，尤其是涉及浮点数的运算。我知道这是由于二进制数表示的本质，我们可以得到......

python math decimal precision

回答 2 投票 0

控制 Spark 中的小数精度溢出

我们使用的是 Spark 2.4.x。我们的除法运算之一存在精度损失 (69362.86 / 111862.86) 这两个值在表中都定义为十进制(38,3)。当穿过直线时...

apache-spark apache-spark-sql decimal

回答 2 投票 0

VBA - 获取数字的小数部分，Int() 的问题

我正在尝试在Excel中的VBA中获取数字的小数部分。是否有一种特定的方法最适合获取数字的小数部分？我尝试过两种不同的方法。

excel vba split integer decimal

回答 1 投票 0

在 bash 中从 0.01 循环到 0.5

我正在 bash 中创建一个脚本来调用命令 100 次，每次都改变一个浮点参数。我需要用 0.01、0.02、0.03 直到 0.5 来调用它。因为我无法使用

bash loops decimal weka

回答 4 投票 0

在Python中，你能在只显示两位小数的情况下获得长小数的全部效用吗？

我有一对盒子。一是针对劳动时间。另一个是劳务费。当您输入工时金额时，它会自动计算并填充人工美元框。当您进入分娩状态时

python tkinter floating-point decimal precision

回答 1 投票 0

python递归将十进制转换为十六进制

如何递归或迭代地将十进制更改为十六进制？我写了一个示例程序，但实际上不起作用： def ChangeHex(n): 如果 (n < 0): print(0) elif (n<...

python recursion decimal hex

回答 3 投票 0

同时处理“,”和“.”的方法作为小数点分隔符

我有一个程序，用户可以复制 Excel 表格并将其粘贴到程序本身上进行数据分析。该表允许的唯一值是浮点数。问题是有 4 种不同的...

python formatting decimal locale

回答 1 投票 0

7 段解码器将 8 位二进制数转换为十进制数

我目前是使用 QuartusII 在 VHDL 中对 FPGA 板进行编程的初学者。我需要将 std_logic_vector 类型的 8 位数字转换为三个单独的 4 位 std_logic_vector 变量，以便...

binary decimal vhdl fpga quartus

回答 1 投票 0

在 C# 中将十进制转换为字节数组，但它必须可以按字典顺序排序

对于 double BitConverter.GetBytes(double) 反转返回的数组，如果按字典顺序排序，则与（正）双精度数排序相同。对于十进制也可以做同样的事情吗？例如，变量...

c# decimal

回答 1 投票 0

浮点数转换过程中可能会损失精度

我在 Google 上搜索了如何在 Java 中获取浮点数的 2 位小数。下面是我的代码。最后，这里 float TotalWeight = 0.1*levinWeight+0.8*lsmWeight; 我收到可能会损失精度的错误？我...

java decimal precision

回答 3 投票 0

如何在R Shiny中的数据表中始终显示3个小数位？ [已关闭]

我需要在表中显示 3 位小数的数据，但事实证明，当我运行应用程序时，它不显示 3 位小数。虽然当我尝试与它交互时它显示 3

r shiny decimal dt

回答 1 投票 0

df.to_excel 将小数列转换为文本

我有一个 DataFrame，其中某些列使用 Decimal 数据类型。我想将此数据导出到 Excel 电子表格，并保留小数/数字格式。但是，我的代码将列转换为

python excel pandas decimal python-decimal

回答 2 投票 0

decimal 相关问题

最新问题