文档详情

有效数字与运算规则.ppt

发布:2025-04-08约1.83千字共10页下载文档
文本预览下载声明

*第二章

定量分析中的误差与数据评价第三节有效数字及其运算规则2.3.1有效数字2.3.2有效数字的运算规则2.3.3数字修约规则2.3.1有效数字*1.实验过程中常遇到的两类数字(1)非测定值:如测定次数;倍数;系数;分数等。(2)测量或计算值。数据的位数与测定准确度有关。记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。结果绝对偏差相对偏差有效数字位数0.51800±0.00001±0.002%50.5180±0.0001±0.02%40.518±0.001±0.2%32.数据中零的作用*数字零在数据中具有双重作用:(1)作普通数字用(2)作定位用:如0.050804位有效数字5.080?10-23.改变单位,不改变有效数字的位数如:24.01mL,24.01?10-3L第一位数字大于8时,多取一位,如:9.48,可按4位算;4.首位是8或9的情况5.对数的有效数字*6.注意点(1)容量器皿;滴定管;移液管;容量瓶;4位有效数字(2)分析天平(万分之一)取4位有效数字0.1012g(3)标准溶液的浓度,用4位有效数字表示:0.1000mol·L-1[H+]=5.6×10-13mol·L-1pH=12.25小数点后的数字位数为有效数字位数2.3.2数字修约规则*“四舍五入”数字修约规则,出现正误差。国家标准规定的“四舍六入五留双”数字修约规则。【例2-7】将下面数据修约为4位有效数字1.36249→1.36226.4863→26.491.0035→1.0042.00450→2.0041.024501→1.0251.023501→1.024数字修约时,只允许对原始数据进行一次修约,而不能对该数据进行连续修约。如将15.46修约到2位有效数字,必须将其一次修约到15,而不能连续修约为15.46→15.5→16。数字修约规则当对标准偏差修约时,修约后会使标准偏差结果变差,从而提高可信度例:s=0.134→修约至0.14,可信度↑2.3.3有效数字的运算规则1.加减运算结果的位数取决于绝对误差最大的数据的位数例:0.0121绝对误差:0.000125.640.011.0570.00126.70912.乘除运算*有效数字的位数取决于相对误差最大的数据的位数。例:(0.0325?5.103?60.0)/139.8=0.0711791840.0325(±0.0001/0.0325)?100%=±0.3%5.103(±0.001/5.103)?100%=±0.02%60.06(±0.01/60.06)?100%=±0.02%139.8(±0.1/139.8)?100%=±0.07%混合运算时,加减和乘除分别按规则取有效数字位数。-刘宇-

显示全部
相似文档