【问题标题】:Conversion overflows when divide decimal number除十进制数时转换溢出
【发布时间】:2021-09-28 14:48:18
【问题描述】:

有一个十进制的属性我想将它除以 1,000,000 以更改数字的大小以缩短一个,我声明了一个也是十进制的变量。当我划分时,它会引发“转换溢出” 我的代码如下: PrmSales 和 Amt 都是十进制的,

   var amt = (from p in db.FactTotalAmount
                    group p by p.FromDate  into g
             select new outputList
                   {
                  Amt= (g.Sum(x => x.PrmSales)/1000000)
                   }

【问题讨论】:

  • PrmSales的类型是什么?
  • 十进制。当我添加 /1000000 时,它会引发错误
  • 完全正确。
  • PrmSales 的精度是多少? .Net 精度可能不如您的数据库在该列上的精度那么精确。
  • 您能否更新您的问题以显示有效的代码和无效的代码?

标签: c# type-conversion decimal overflow division


【解决方案1】:

错误是数据库中的字段类型小于编码中的属性类型,因为我收到了该错误。 谢谢尼尔斯克!

【讨论】:

    猜你喜欢
    • 2014-11-15
    • 2017-03-17
    • 1970-01-01
    • 2021-08-13
    • 1970-01-01
    • 1970-01-01
    • 2012-02-19
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多