decimal 相关问题

十进制是我们共同的十进制数字系统的名称。它也可以指用小数点表示的非整数值。

用汇编语言打印十进制数?

我正在尝试以十进制形式获取输出。请告诉我如何才能以十进制而不是 ASCII 形式获得相同的变量。 .型号小 .stack 100h 。数据 msg_1 db '数字 = $' var_1 ...

回答 2 投票 0

如何对 Playwright 中 UI 以字符串形式返回的数值应用数学函数?

如何将从UI中提取的字符串值更改为数字?我必须执行 Math.round() 函数。 由于 Math.round() 函数仅适用于整数。 让 GE_UI = 等待 this.iGetAtrribute(

回答 1 投票 0

无法使用 M1 在 macOS 上安装十进制 PHP 扩展 – “找不到 libmpdec”

我尝试使用 pecl 安装十进制 PHP 扩展,因为我需要它用于现有项目。在我的新 M1 机器上,我收到以下错误: $ pecl 安装十进制 [...] 检查 libmpdec

回答 2 投票 0

HTML5 表格中十进制数字的对齐方式

我在 HTML5 表格中得到了可变长度的十进制数。它们应该根据点分隔符对齐。 在 HTML4 中,您可以使用 ,...

回答 1 投票 0

对齐表格中数字的小数点,在单元格中出现伪“中心”对齐

我想要一个包含一列十进制数的表格,小数点前后长度不同,小数点全部对齐。 列宽必须具有“液体”大小,扩展为

回答 4 投票 0

如何将小数转换为分数?

我需要将小数转换为分数。很容易转换为 10 英尺。 1.5 => 15/10 这可以通过以下代码完成: 公共类理性{ 私有 int num, denom; 公共比率...

回答 11 投票 0

javascript数字精度无需转换为字符串

我正在开发 REST API 并返回 JSON。其中一个字段称为submissionPercent,我需要它是一个数字,但精确到小数点后两位 如果submissionPercent是20,我需要

回答 2 投票 0

无法将 R 中小数中的逗号更改为点

我有一个 .csv 文件,我在处理时遇到问题,因为数字使用逗号表示小数,这会导致在 R 中读取文件时出现问题。Excel 将逗号解释为小数,而 R 使用...

回答 1 投票 0

如何从 JavaScript 数字中删除小数部分?

我有除法的结果,我希望丢弃结果数的小数部分。 我怎样才能做到这一点?

回答 15 投票 0

在 .NET 中,等于“int”的“decimal”总是会转换为“int”

在.NET中,假设小数不是大到无法表示(或导致溢出),那么等于int的小数是否总是会转换为它等于的int? 同样的任务...

回答 1 投票 0

如何表示负的十六进制数?

如果我有一个负十进制数,例如-5,并将其转换为十六进制格式。我可以简单地在十六进制数前面加上一个负号吗?或者还有其他的吗...

回答 2 投票 0

将浮点基数 2 转换为基数 10 至 100+ 小数位 [已关闭]

我正在尝试为“素数常数”找到更多的小数位。使用 getcontext().prec=100 后输出最大为 51 位小数 从十进制导入 * getcontext().prec = 100 基数 = 2 s = &

回答 2 投票 0

Python - 将浮点基数 2 转换为基数 10 到 100+ 小数位

我正在尝试为“素数常数”找到更多的小数位。使用“getcontext().prec=100”后,输出最大为小数点后 51 位 从十进制导入 * getcontext().prec = 100 基数 = 2 ...

回答 1 投票 0

如何将Python小数四舍五入到小数点后两位?

我有一个Python Decimal(货币金额),我想将其四舍五入到小数点后两位。我尝试使用常规 round() 函数来执行此操作。不幸的是,这会返回一个浮点数,这使得它

回答 8 投票 0

如何提高 Python DataFrame 中小数点的精度?

我正在用Python开发一个系统,它复制了用LabWindows编写的另一个系统。设计的一部分涉及计算周期图,它返回一个十进制数组。然后我将此数组添加到

回答 1 投票 0

Python - 尝试计算 pi 的数字,但无法超过小数点后 48 位数字

我正在尝试编写一个程序来使用Python中的Nilakantha系列来计算pi的数字。每次运行它都不会给我超过 50 位小数。还在学习 python 所以他...

回答 2 投票 0

SQL 将价格中的单位和小数分开

我 MySQL 中的价格列包含以下值: 价格 1020.2200 202.0000 0.5000 820.6700 我想在浮点处分割。 这是我想要得到的: 价格 p_单位 p_小数 ...

回答 1 投票 0

在解释器和脚本中进行Python精确数学计算,无需一直输入十进制模块

我注意到Python中的数学运算不像以前那么精确,尤其是涉及浮点数的运算。我知道这是由于二进制数表示的本质,我们可以得到......

回答 2 投票 0

控制 Spark 中的小数精度溢出

我们使用的是 Spark 2.4.x。 我们的除法运算之一存在精度损失 (69362.86 / 111862.86) 这两个值在表中都定义为十进制(38,3)。当穿过直线时...

回答 2 投票 0

VBA - 获取数字的小数部分,Int() 的问题

我正在尝试在Excel中的VBA中获取数字的小数部分。是否有一种特定的方法最适合获取数字的小数部分? 我尝试过两种不同的方法。

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.