手机版

实验数据处理之有效数字运算规则

发布时间:2021-06-05   来源:未知    
字号:

有效数字运算规则

间接测量的计算过程即为有效数字的运算过程,存在不确定度的传递问题。严格说来,应根据间接测量的不确定度合成结果来确定运算结果的有效数字。但是在没有进行不确定度估算时,可根据下列的有效数字运算法则粗略地算出结果。

有效数字运算总的原则是:运算结果只保留一位(最多两位)欠准确数字。

1.加减运算

根据不确定度合成理论,加减运算结果的不确定度,等于参与运算的各量不确定度平方和的开方,其结果大于参与运算各量中的最大不确定度。如:

N x y

UN x 2x U2y U(或Uy)

因此,加减运算结果的有效数字的末位应与参与运算的各数据中不确定度最大的末位对齐,或根据有效数字与不确定度的关系,计算结果的欠准确数字与参与运算的各数值中最先出现的欠准确数字对齐。下面例题中在数字上加一短线的为欠准确数字。

【例3】32.1 3.235和116.9 1.652的计算结果各应保留几位数字?

【解】先观察一下具体计算过程:

32.1

3.235

35.335 116.91.652115.248

可见,一个数字与一个欠准确数字相加或相减,其结果必然是欠准确数字。例3中各数值最先出现欠准确数字的位置在小数点后第一位,按照运算结果保留一位欠准确数字的原则

32.1 3.235 35.3 116.9 1.652 115.2

分别为三位有效数字和四位有效数字,

2.乘除运算

乘除运算结果的相对不确定度,等于参与运算各量的相对不确定度平方和的开方,因此运算结果的相对不确定度大于参与运算各量中的最大相对不确定度。我们知道,有效数字位数越少,其相对不确定度越大。所以,乘除运算结果的有效数字位数,与参与运算各量中有效数字位数最少的相同。

【例4】1.1111 1.11的计算结果应保留几位数字?

【解】计算过程如下:

1.1111 1.11 11111 11111 11111

1.233321

因为一个数字与一个欠准确数字相乘,其结果必然是欠准确数字。所以,由上面的运算过程

可见,小数点后面第二位的“3”及其后的数字都是欠准确数字。按照保留一位欠准确数字的原则

为三位有效数字。这与上面叙述的乘除运算法则是一致的。即在该例中,五位有效数字与三1.1111 1.11 1.23

位有效数字相乘,计算结果应为三位有效数字,即与有效数字位数少的相同。

除法是乘法的逆运算,取位法则与乘法相同,这里不再举例说明。

对于一个间接测量,如果它是由几个直接测量值通过相乘除运算而得到的,那么,在进行测量时应考虑各直接测量值的有效数字位数要基本相仿,或者说它们的相对不确定度要比较接近。如果相差悬殊,那么精度过高的测量就失去意义。

3.乘方、立方、开方运算

运算结果的有效数字位数与底数的有效位数相同。

4.对数、三角函数运算

前面介绍的有效数字四则运算法则,是根据不确定度合成理论和有效数字的定义总结出来的。所以,对数、三角函数的计算必须按照不确定度传递公式,先求出函数值的不确定度,然后根据测量结果最后一位数字与不确定度对齐的原则来决定有效数字。

【例5】a 3068 2,求y lna ?

【解】按照不确定度传递公式

Uy 1

所以 a3068y lna 8.0288Ua 1 2 0.0007

或 y 8.0288 0.0007

【例6】 60 0 3 ,求x sin ?

【解】由不确定度传递公式

Ux |cos |U |cos60 |3 60 180 0.0004

所以 x sin60 0 0.8660

或 x 0.8660 0.0004

当直接测量的不确定度未给出时,上述过程也可简化为通过改变自变量末位的一个单位,观察函数运算结果的变化情况来确定其有效数字。例如 20 6 中的“6 ”是欠准确数字,由计算器运算结果为sin20 6 0.343659695 ,sin20 7 0.343932851 ,两种结果在小数点后面第四位出现了差异,所以

sin20 6 0.3436

同理ln598 6.393590754 ,ln599 6.395261598 ,所以

但是,这种方法是较粗糙的,有时与正确结果会出现明显差异。

5.常数

公式中的常数,如 、e、2等,它们的有效数字位数是无限的,运算时一般根据需要,比参与运算的其它量多取一位有效数字即可。例如:

2S r,r 6.042cm, 取为3.1416, S 3.1416 6.042

129.3 , 取为3.14, 129.3 3.14 132.4rad。 2ln598 6.394 114.7cm。 2

应该指出的是,上述的运算规则不是绝对的。一般说来,为了避免在运算过程中因数字的取舍而引入计算误差,则在运算过程中的中间结果应多保留一位数字为妥,但最后结果仍

应删去,以间接测量值最后一位数字与不确定度对齐的原则为准。

上节介绍的不确定度,只能在数量级上对测量结果的可靠程度作出一个恰当的评价,因此它的数值没有必要计算得过于精确。

4. 4 测量结果数字取舍规则

数字的取舍采用“四舍六入五凑偶”规则,即欲舍去数字的最高位为4或4以下的数,则“舍”;若为6或6以上的数,则“入”;被舍去数字的最高位为5时,前一位数为奇数,则“入”,前一位数为偶数,则“舍”,即通过取舍,总是把前一位凑成偶数。其目的在于使“入”和“舍”的机会均等,以避免用“四舍五入”规则处理较多数据时,因入多舍少而引入计算误差。

例如,将下列数据保留到小数点后第二位:

8.0861 8.09,8.0845 8.08,8.0850 8.08,8.0754 8.08,8.0656 8.06 有效数字运算规则和数字取舍规则的采用,目的是保证测量结果的准确度不致因数字取舍不当而受到影响。同时,也可以避免因保留一些无意义的欠准确数字而做无用功,浪费时间和精力。现在由于计算器的应用已十分普及,计算过程多取几位数字也并不花费多少精力,不会给计算带来什么困难。但是,实验结果的正确表达仍然值得重视的,实验者应该能正确判断实验结果是几位有效数字,正确结果该怎么表示。

实验数据处理之有效数字运算规则.doc 将本文的Word文档下载到电脑,方便复制、编辑、收藏和打印
    ×
    二维码
    × 游客快捷下载通道(下载后可以自由复制和排版)
    VIP包月下载
    特价:29 元/月 原价:99元
    低至 0.3 元/份 每月下载150
    全站内容免费自由复制
    VIP包月下载
    特价:29 元/月 原价:99元
    低至 0.3 元/份 每月下载150
    全站内容免费自由复制
    注:下载文档有可能出现无法下载或内容有问题,请联系客服协助您处理。
    × 常见问题(客服时间:周一到周五 9:30-18:00)