【发布时间】:2021-09-28 14:48:18
【问题描述】:
有一个十进制的属性我想将它除以 1,000,000 以更改数字的大小以缩短一个,我声明了一个也是十进制的变量。当我划分时,它会引发“转换溢出” 我的代码如下: PrmSales 和 Amt 都是十进制的,
var amt = (from p in db.FactTotalAmount
group p by p.FromDate into g
select new outputList
{
Amt= (g.Sum(x => x.PrmSales)/1000000)
}
【问题讨论】:
-
PrmSales的类型是什么? -
十进制。当我添加 /1000000 时,它会引发错误
-
完全正确。
-
PrmSales的精度是多少? .Net 精度可能不如您的数据库在该列上的精度那么精确。 -
您能否更新您的问题以显示有效的代码和无效的代码?
标签: c# type-conversion decimal overflow division