第二节 有效数字及其运算法则

一、有效数字的概念

正确而有效地表示测量和实验结果的数字,称为有效数字。它由可靠的若干位数字加上可疑的一位数字构成。从表达上说从左端第一个非零数字到右端最后一位的所有数字均为有效数字。如测量值2.72cm和2.70cm,都是3位有效数字,2.7是可靠数字,尾数“2”和“0”是可疑数字(估读的),但它们在一定程度上反映了客观实际,因此也是有效的。

应当指出,测量结果第一位(最高位)非零数字前的“0”不属于有效数字,而非零数字后的“0”都是有效数字。前者只反映了测量单位的换算关系,与有效数字无关。例如,0.0125m是3位有效数字,不应理解为5位有效数字,它与1.25cm实际上是一回事。而非零数字后的“0”则反映了测量的大小和精度,如1.09cm是3位有效数字,而1.0900cm是5位有效数字;1.09cm说明不确定度范围是0.01~0.09cm,而1.0900cm的不确定度范围只有0.0001~0.0009cm,它的测量精度要高得多。

需要牢记的是有效数字末位数字恒是可疑数字(不确定度所在位)。学生易错的是漏掉可疑位的“0”。如测量值2.70cm是3位有效数字,可疑位是“0”。如果因为可疑位数字是“0”而漏写(不写),写成2.7cm,则本来是可靠位数字的“7”被认为成可疑数字,变成了2位有效数字,严重降低了测量水平,是错误的。

二、有效数字的读取

在物理实验教学中,经常会遇到读数取几位数和运算结果取几位数的问题,其实只要掌握有效数字末位数字恒是可疑数字这一法则,问题就迎刃而解了。下面就测量值有效数字读取一般规律作简要介绍。

1.十分度标尺

测量仪器的读数装置带有十分度标尺(最小分度值为1个单位)时,读数为可靠位(最小分度值整数倍)加上估读位(可疑位),若读数恰为整数,则估读位记为0。例如图2-1所示,该直尺的分度值是1mm,读成84.6mm,末位数6是可疑的,如果有人估读为7,读成84.7mm也是合理的。

图2-1 直尺读数示意图

2.游标卡尺

做物理实验经常用到带有游标卡尺的仪器,如游标卡尺、分光计及电位差计等。此时直接按游标原理正确读数即可。这里需要说明的是游标卡尺读数末位不是估读的,但它仍然是可疑的,因为所谓“两刻线对齐”是相对的(用放大镜看一下也许发现并不严格对齐)。因此与有效数字末位是可疑位并不矛盾。如图2-2所示读数为21.44mm,0.04是可疑位,如读成0.02或0.06都是错误的,可见精度比直尺提高了很多。

图2-2 游标卡尺读数示意图

3.十步进式标度盘

电磁学实验经常用到电阻箱、电容箱、电桥及电位差计等,标度盘上排列多个十步进旋钮,一般将各旋钮示值加起来即为标度盘读数,例如图2-3所示的电阻箱,读做1032.0Ω。但有时读数有效数字由实验时灵敏度决定。

图2-3 6旋钮电阻箱读数

例如在“灵敏电流计研究”实验中,测临界电阻时,调节电阻箱“×1Ω”旋钮,仪器才刚有反应,则读数有效数字只能记到“×1Ω”,读数为1032Ω。尽管还有最小步进“×0.1Ω”旋钮,其示值是无效的。

4.其他

数显仪表一般直接读取仪表示值,末位仍是可疑的。

非十分度标尺读数要根据具体情况读取有效数字。例如,用量程为150mA,75格分度的电流表测电流,最小分度为2mA,读数误差按0.2格即0.4mA估计,因此可以取至小数点后1位。如果分度值是5只能读到分度位。

三、有效数字的运算法则

在有效数字的运算过程中,为了不因运算而损失有效数字,影响测量结果的精确度,并尽可能的简化运算过程,归纳以下有效数字运算规则,这些规则简单易记,其合理性是可以证明的。

(1)加减法运算 主要看参与运算各量有效数字的末位,运算结果的末位应与其中末位最高的相同。

例如,N=A+B+C-D,合成扩展不确定度UN一定大于4个不确定度分量中最大者,因之N的末位应与4个分量中有效数字末位最高者相同。如A=5472.3,B=0.7536,C=1214,D=7.26,则有效数字最后一位位数最高者是C。因此,N的有效数字取至个位数与C相同,即

根据有效数字末位恒是可疑位,我们将可疑位以下划线标记,最后结果只保留一位可疑位,其结果N的末位亦应与C相同。

(2)乘除法运算 运算结果有效数字应与参与运算各量中有效数字最少的相同。

例如,合成相对不确定度,不难想见,一定大于ABCD中相对不确定度的最大者,相对不确定度最大者一定是有效数字位数最少者。因此,N的有效数字应与ABCD中有效数字位数最少的位数相同。如A=80.5,B=0.0014,C=3.08326,D=764.9,则

补充规定:如最后结果的第一位数是1、2,则在上述原则的基础上,可多保留一位。

(3)混合四则运算 应按前述原则按部就班进行运算,并获得最后结果。

(4)其他运算

① 对数运算。对数的有效数字其小数点后的位数与真数的位数相同。

例如y=lnx,式中x=888,经计算器运算得ln888=6.788971,结果为ln888=6.789。

② 指数运算结果有效数字与指数相同。如y=exx=9.14计算器给出y=9320.7651。再取3位有效数字,则y=9.32×103

③ 乘方开方等有效数字位数不变。

④ 三角函数运算。对y=sinx,若x的末位是度,则y取2位数,若x的末位为分,则y取4位数。例如

sin30°=0.50

sin30°0'=0.5000

⑤ 对于公式中的常数(π、e等)的有效数字位数可以认为无限制的,在计算中其有效数字位数取比参与运算的各数中有效数字位数最多的多一位。

以上阐述的有效数字的运算和取位规则,其合理性是不难证明的。只需用不确定度的传播律,根据参与运算各分量的不确定的量值,就能比较容易地估算出y的不确定的数量级。进而确定y的末位是在哪一位。

对于各种函数运算,如指数运算、对数运算、三角函数运算、乘方运算、根式运算等,不必死记上述规则。如果手头有一台计算器,只要在x的末位+1(或-1),比较两个运算结果最先出现差异的那一位,便应是y的末位。其实y的这个差异是由x的差异导致的。例如ln888=6.788971,ln887=6.787845,由于x末位的差异,使得y在小数点后第3位产生差异,所以应取为y=6.789;又如sin30°=0.5000,sin31°=0.5150所以sin30°=0.50。

四、有效数字的标准表示形式

为便于处理过大和过小的数据,常把有效数字写成小数点前是一位非零整数,而后乘以10的方幂形式,称为有效数字的科学表示法。例如,中国人口11亿8千万,只有3位有效数字,不应写成1180000000,而应写成1.18×109或11.8亿。再如(0.000635±0.000007)m,书写起来也很不方便,应写成(6.35±0.07)×10-4m。