decimal

我正在尝试验证 c# 中的小数是否适合 db 列小数。 SqlDecimal 对象允许您将精度和小数位数以及小数位传递给构造函数。我知道列的大小，所以在我们写入数据之前，我会检查每个输入，以便生成业务所需的输出。 在本例中，我们存储的是百分比，因此精度为 13，比例为 10。我有一个测试工具，我在下面将其压缩为 SO 的 unti 测试。此示例在 SqlDecimal 构造函数行上引发算术溢出错... »

我有一个即将完善的 GPA 计算器项目。尽管“.0123456789”是唯一允许的字符，但我需要防止用户输入非浮点数。例如，如果用户输入 2.3。无论出于何种原因，我的程序崩溃了，因为这个“输入”不是浮点数。我在下面包含了我的代码的基础。 func textField(_ textField: UITextField, shouldChangeCharactersIn range: N... »

我正在尝试快速加载一些数据。第二列应被视为小数，但是当我尝试加载数据时，我不断收到 2679 个错误字符错误。关于发生了什么有什么建议吗？ #data 29499512266332107004116346230154901061,22.40 79270112045695798581952128836258811725,2.31 7927011204569579858195212883625881... »

对于某些值，例如 10 的代码工作正常，输出为 1010，这是正确的，但对于 20、50 或 51，输出是错误的，或者至少在我看来是这样。 请帮忙！ #include <iostream> #include <math.h> using namespace std; int main() { int n; cin >> n... »

我有一个表，当前结构如下： 目前填充如下： 为产品值存储的数据是十进制值 并且一旦插入数据库，结束数字就会被切断。 我已尝试将表结构更改如下： 但这只会导致以下结果： 如您所见，如果不存在所有值，则附加一个 .00，但是我想 存储所有这些值，不带小数位。除了产品价值。 我该怎么做？ ... »

我有一个用例，我需要为大型机创建一个文件，其中包含使用 Java 的文本和压缩十进制。 我在 Stack Overflow 上经历了很多线程，但似乎没有任何效果。我正在使用 JTOpen 库。 这是我写的一个示例程序： package com.amazonaws.samples.util; import java.io.FileInputStream; import java.io.FileOu... »

我是 SQL 世界的新手，刚开始做查询。 在这种情况下，我正在计算一个数字占其他数字的百分比。 这就是我的做法： 百分比 = ROUND(((NULLIF(SUM(value_1), 0)) / NULLIF(SUM(value_2),0) * 100), 2), 即使我使用 ROUND()，结果还是一样，他们会给我逗号后的 6 位数字： 100.020000 56.800000 ... »

我使用的是 SQL Server 2005。数据类型是 varchar。我正在尝试将数字转换为 1250000 到 1.25 在 SQL 查询中并删除尾随零。我尝试了很多事情都没有成功 - 遇到“修剪不是函数”等。 这是我目前所拥有的，在我尝试的每次迭代中。 select top 30 var1, var2, var3, var4, CONVERT(DECIMA... »

假设以下数字： local a = 2 local b = 3.1 local c = 1.43 local d = 1.0582 我的目标是将这些数字四舍五入到小数点后两位。结果应该是这样的： a = 2.00 b = 3.10 c = 1.43 d = 1.06 or 1.05 显然，我知道任何带有尾随小数零的数字都会被四舍五入。 2.00 将是 2。但我需要将数字作为字符串，为了... »

我真的是 Java 新手，我的任务是创建一个接收用户输入的二维数组。我遇到的问题是它需要接受一些十进制数以及整数，然后计算每列的总和，一旦输入十进制数，我的程序就会返回错误。我尝试将“int”的所有实例更改为“float”，但仍然弹出相同的错误。然后我还需要打印出每列的总数。 到目前为止我的代码是： package sumElements; import java.util.S... »

我正在尝试解析一个包含数字的字符串，当我尝试将其转换为浮点数时，它给了我一个错误： ValueError: 无法将字符串转换为浮点数：'8,900' 我的代码： soup=BeautifulSoup(content,"html.parser") element=soup.find("div",{"class":"_1vC4OE _3qQ9m1"}) price=element.tex... »

我想将一个字符串转换为小数，然后再转换为字符串，然后再转换为小数。 我试过了： Dim s As String = "0.7655" CDec(sDec).ToString("0.00") 'results in: 7653,00 CDec(sDec).ToString 'results in: 7648 CDec(sDec).ToString("N") 'results in: 7.65... »

我写了一个用 Java 计算 Pi 的小程序。 我的总结目前输入double。 我有两个输出，一个是小数点后 16 位的 Pi（原始输出）。 第二个输出使用NumberFormat/DecimalFormat四舍五入到小数点后3-5位。 我花了一些时间在 Google 上搜索和浏览 Stackoverflow，但作为初学者，我不确定找到我正在寻找的正确方法可能需要的任何 keywords，所... »

问题： 我需要的是 PHP 中的一种方法或函数，可以将具有可变小数位数的数字四舍五入为与成本计算相关的值。 知道产品成本为 0.00023123414123 美元/克是没有意义的，而 0.00023 美元/克会导致非常相似、更实际的成本。当处理少量的东西时，过于准确是低效的。我买不起 0.000231234141 美元，除非我买的东西超过 1000 公斤，否则 0.000231234141 ... »

是否有成熟的库用于在 JavaScript 中进行基于十进制的数学运算，可能是任意精度？ 编辑：我想要此信息作为浮点相关问题的参考页面，以及在二进制浮点不合适时使用的替代方法：http://floating-point-gui.de/ ... »

我有一个基于float 的存储十进制，按它们的自然数字。 float 的精度可以满足我的需要。现在我想要使用double 对这些数字执行一些更精确的计算。 一个例子： float f = 0.1f; double d = f; //d = 0.10000000149011612d // but I want some code that will convert 0.1f to 0.1d; ... »

df如下 col1 col2 10.56% a 55.78% b 700% c 118.13% d 200% e 102% f 45.25% g 67.765% h 我想要 df['col1'] 如下所示（用 '%' 符... »

我需要接受用户输入的 ASCII 字符，然后将其转换为十进制字符。 这是我为此想到的算法，但不确定如何在代码中显示它。想法？它只需要 0-9 个字符，并将对此进行验证。我没有写任何与 ASCII 相关的东西，也不确定使用什么语法。这是我的伪代码算法 Give it a counter variable: counter = 0 getCharacters( next character ) ;... »

我正在开发的一个网络应用程序（另一个开发人员编写了它）有一个十进制变量，它在小数点后去掉两个零。如果它们包含一个大于 0 的数字或两者的组合，它不会丢弃尾随的 2 位数字。该值来自文本文件。 示例文本值为：261.00 示例十进制变量 (TotalDue) 为：261 在调试期间，当我将鼠标悬停在“TotalDue”（在下面的示例代码中）时，该值显示为 261，当我展开调试器时，它显示为“... »

我们正在使用烧瓶作为我们的应用程序服务。在内部，我们使用 Jsonify 来返回响应，我们的响应包含十进制数据。 这里要提到几件事。 我们使用的是Windows机器 我的一些同事对具有相同配置的数据没有任何问题。 我们观察到的一件事是，如果安装，flask 默认使用 simplejson。如果没有，那么它将 回退到 json 包。 示例数据：jsonify({'response':De... »