有效数字

数值分析笔记(2)——有效数字

下面有解答,这里读者可以先自己想想。

有效数字与绝对误差限的关系

数值分析笔记(2)——有效数字

数值分析笔记(2)——有效数字

即任何一种数字我们都可以转换成标准浮点数的形式。

数值分析笔记(2)——有效数字

上图的\(m\)就是上上图中浮点数里面的\(m\)次幂的\(m\)。我们尽量保留尽可能多的有效数字就是为了减小绝对误差。

例题:

数值分析笔记(2)——有效数字

数值分析笔记(2)——有效数字

数值分析笔记(2)——有效数字

回到一开始的例题:

数值分析笔记(2)——有效数字

上面这3个数字,对于\(\pi\)来说,他们的有效数字的位数分别是多少?

答案分别是:2位有效数字,3位有效数字,2位有效数字(因为\(\pi = 3.14159 \dots\),所以\(5\)不算)。

有效数字与相对误差限的关系

数值分析笔记(2)——有效数字

\(a_1\)就是写成标准浮点数之后的第一位有效数字,\(n\)就是有效数字的位数。

相关文章:

  • 2021-11-16
  • 2022-01-30
  • 2022-12-23
  • 2021-11-25
  • 2021-11-20
  • 2021-08-10
  • 2021-08-07
  • 2021-10-12
猜你喜欢
  • 2021-09-08
  • 2022-01-17
  • 2022-12-23
  • 2021-10-06
  • 2022-12-23
  • 2022-01-07
  • 2022-12-23
相关资源
相似解决方案