检验数据处理教程.pptx
文本预览下载声明
检验数据的处理; 有效数字:
指在检验工作中所能得到的有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。; 数值修约:
指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。; 有效位数的规定:
在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。; 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。
例:分子式“H2SO4”中的“2”和“4”是个数;常数π、e和系数含量测定项下“每1ml的×××滴定液(0.1mol/L)……”中的“0.1”为名义浓度;标签规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量;
这些类型的数字有效位数均为无限多位;在计算中,其有效位数应根据其他数值的最少有效位数而定。
; pH值为对数数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
有效数字的首位数字为8或9时,其有效位数可以多计一位。
例:85%与115%,都可以看成是三位有效数字。99.0%与101.0%都可以看成是四位有效数字。
; 指数定位:
指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位;
指定间隔为1,或指明将数值修约到个位数。
指定修约间隔为10-n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。
指定将数值修约成n位有效位数。
在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位(非零数字),故通常是百分位或千分位。
; 运算数值保持“四舍六入五成双”规则。
负数修约时,先将其绝对值按上述规定进行修约,然后在修约值前面加上负号。
相对标准偏差(RSD)中,采用“只进不舍”的原则,如:0.163%→0.17%;0.52% →0.6%。
杂质项按四舍五入进舍。
; 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。
例如:正确的做法为:15.4546 →15;
不正确的做法为:15.4546 →15.455 →15.46 →15.5 →16
; 加减法
在加减法运算中,以小数点后面有效数字位数最少的为标准。
例如:13.65+0.00823+1.633=?;
在数值中13.65小数点后为二位有效数字,因此将其他各数均暂先保留至小数点后三位,即把0.00823修约成0.008,1.633不变,进行运算:
13.65+0.008+1.633=15.291
最后对计算结果进行修约,15.291应只保留二位有效数字,而修约成15.29; 乘除法
在乘除法运算中,保留有效数字的位数,以位数最少的为准,即以相对误差最大的数为准。
例如:14.131×0.07654÷0.78
=14.1×0.0765÷0.78
=1.08÷0.78
=1.38
=1.4;项目
显示全部