计量资料中有效数字的确定
发布人:administrator 发布时间:2010/8/10 17:16:59  浏览次数:1731次
【字体: 字体颜色
有效数字是在测量中所能得到的有实际意义的数字。一个由有效数字构成的数值,只有末位数字是估计数字,其余各位数字都是准确的。有效数字与测量仪器的灵敏度有关。以天平称重为例,如果天平的灵敏度为0.1mg,那么称重结果12.34mg中,12.3mg为准确数字,0.04mg为估计数字,2项合在一起组成有效数字。均数±标准差别 (χ±s)的位数,除了决定于测量仪器的精密度外,还决定于样本内个体的变异,一般按标准差的三分之一来确定,例如:3.61±0.42,标准差的三分之一为0.14,标准差波动在小数点后第1位上,故应取到小数点后第1位,即3.6±0.4,过多的位数并无意义。但是在一系列数值并列时,小数点后的位数应一致。例如在3.61±0.42、5.86±0.73、2.34±0.15这样一组数据中,第3组数据标准差0.15的三分之一为0.05,在小数点后第2位,则这组数据的有效位数可取到第2位。
有效数字是在测量中所能得到的有实际意义的数字。一个由有效数字构成的数值,只有末位数字是估计数字,其余各位数字都是准确的。有效数字与测量仪器的灵敏度有关。以天平称重为例,如果天平的灵敏度为0.1mg,那么称重结果12.34mg中,12.3mg为准确数字,0.04mg为估计数字,2项合在一起组成有效数字。均数±标准差别 (χ±s)的位数,除了决定于测量仪器的精密度外,还决定于样本内个体的变异,一般按标准差的三分之一来确定,例如:3.61±0.42,标准差的三分之一为0.14,标准差波动在小数点后第1位上,故应取到小数点后第1位,即3.6±0.4,过多的位数并无意义。但是在一系列数值并列时,小数点后的位数应一致。例如在3.61±0.42、5.86±0.73、2.34±0.15这样一组数据中,第3组数据标准差0.15的三分之一为0.05,在小数点后第2位,则这组数据的有效位数可取到第2位。