decimal 相关问题

十进制是我们共同的十进制数字系统的名称。它也可以指用小数点表示的非整数值。

使用 JavaScript (JS) 在十进制、二进制和十六进制之间转换

我是高三学生，我有一个成败攸关的项目将在 2 天内到期。我已经开始了。这是一个应该在十进制/二进制/十六进制之间转换的程序。我找到了这个导师...

javascript html binary hex decimal

回答 0 投票 0

是否可以在调试期间在 VSCode 中预览 github.com/shopspring/decimal 值？

这是调试时在vscode中Go中普通int64/float64变量的预览。这就是使用 Decimal 库中的变量时的样子。如果那是可能的，那么调试

go decimal vscode-debugger delve

回答 1 投票 0

将十进制数转换为 16 位温度二进制

我有一个关于转换的问题。在有关 DS18B20 温度传感器的文档中，我需要将 18.25C 转换为二进制。有人可以解释如何去做。我尝试在互联网上寻找答案......

binary decimal sensors data-conversion temperature

回答 1 投票 0

如何在 SQL 数据库中存储 python 浮点数

在 python3 中，我主要使用 float 或 np.float32/64，当将其存储到数据库中时，即使 SQL 类型是数字/小数，我们最终也会得到 0.400000000000021 或类似的东西，而不是...

python sql floating-point decimal precision

回答 4 投票 0

pyodbc insert decimal Error converting data type nvarchar to float

看不懂，是哪个问题导致的：将数据类型 nvarchar 转换为 float 时出错。我正在通过 api 从一个软件获取数据，并想将这些数据插入到 sql 数据库中。我看到的...

sql-server-2012 decimal pyodbc

回答 0 投票 0

使用 JDBC 从 Db2 中检索 Decimal 字段

我正在尝试从 Db2 for z/OS 表中检索十进制值的 STDDEV。我使用下面的 SQL。 // 执行查询并生成 ResultSet 实例 rs = stmt.executeQuery(&...

jdbc floating-point db2 decimal bigdecimal

回答 0 投票 0

使用Devtools将十进制数修改为一些二进制数

我读了一个问题的答案（什么是任意精度整数），我读到的答案是术语固定精度意味着只有一定数量的保留有效数字我...

java binary decimal

回答 1 投票 0

卡在decimal.Invalid运算问题

我正在尝试用 RK4 方法求解非线性微分方程组。我在该方程式中的一个参数是一个非常小的数字，大约为 10^{-121} 因此可以使用更多

python decimal numerical-methods differential-equations runge-kutta

回答 0 投票 0

我有计算问题，小数问题[关闭]

我正在开发一个 Python 程序，我需要在其中使用整数值和小数值执行计算。具体来说，我想将这两个值相乘并得到一个小数结果。 ...

python decimal floating activerecord-calculations

回答 0 投票 0

Python/Django。 Decimal 计算本地和服务器之间的区别

我们使用十进制数来存储值。我有一个简单的公式：价格 * 数量 * 百分比 / 100 def round_value（值）： x = math.floor(值) 如果（值 - x）< .50: return x el...

python django decimal

回答 0 投票 0

ID 列在计数功能后显示十进制值

我正在尝试识别 ride_id 列中的所有重复值，以便我可以永久删除它们。我按函数运行计数和分组，并且 ride_id 列显示长十进制数字。 ...

sql-server group-by count decimal

回答 0 投票 0

如何以函数式方式对表示有符号整数的字符串进行加法和乘法运算？

我想在仅支持“数字”（64 位双精度）的“DSL”(jsonnet) 中对大型（64 位）带符号整数进行“基础数学”。我的“策略”是

decimal jsonnet

回答 0 投票 0

Shell 脚本中的十六进制到十进制

有人可以帮我在 shell 脚本中将十六进制数转换为十进制数吗？例如，我想使用 shell 脚本将十六进制数 bfca3000 转换为十进制数。我基本上想要

bash shell hex decimal

回答 8 投票 0

将小数年添加到日期时间

当我遇到这个问题时，我认为这将是一个涉及 TimeSpans 和基本 DateTime 算法的微不足道的挑战。除非我错过了一些非常明显的我错了...... 你会如何添加“1 ...

c# datetime decimal timespan

回答 3 投票 0

c 中的 fscanf 如何使用 %lf 只保留两位小数？我试过 %.2lf 但它不起作用 [关闭]

我一直在尝试取双精度值 1200.00 而不是 1200.00000000，这个值需要放到另一个文件中。但我做不到我尝试在我的代码中使用 %.2lf，例如： fscanf(文件, &q...

c decimal scanf

回答 1 投票 0

如何根据 C# 中输入的最后一位或少一位小数位向上或向下舍入小数值？

我有两个值，我想像这样四舍五入。我如何才能比 C# 中的数学方法输入少一位小数？ 100.67 -> 100.7 -- 向上 100.67 -> 100.6 -- 向下 50...

c# decimal rounding calculation

回答 1 投票 0

如何根据最后一位或比输入的小数点小一位在 c# 中向上或向下舍入十进制值？

我有两个值，我想像这样四舍五入。如何使用 C# 中的数学方法将输入的小数点数减少一位？ 100.67 -> 100.7 -- 向上 100.67 -> 100.6 -- 向下 50.5...

c# decimal rounding calculation

回答 1 投票 0

我正在尝试将我们数据库中的这些 5 位 FFXI 颜色代码转换为相应的十六进制颜色代码

我非常需要帮助，我们的数据库将颜色存储为 5 位数字（我假设）是十进制数。我试过使用 PHP 进行转换：以下是其他一些 5 位代码：功能

php colors binary hex decimal

回答 0 投票 0

如何根据c#中的最后一位向上或向下舍入十进制值？

我有两个值，我想像这样四舍五入。如何使用 C# 中的数学方法执行此操作？ 100.67 -> 100.7 或 100.70 -- 向上 100.67 -> 100.6 或 100.60 -- 下跌 50.563 -> 50.564 -- 向上 50.5...

c# decimal rounding calculation

回答 0 投票 0

我不能在 Java 中将十进制数存储在 double 或 float 类型的变量中

我有一个双精度类型的变量，但我不能在其中存储十进制数。每当我尝试这样做时，我都会收到一条错误消息。当我尝试使用 float 数据类型时也会出现同样的问题。我可以

java double decimal java.util.scanner

回答 0 投票 0

decimal 相关问题

最新问题