试验数据处理讲述.ppt

试验数据处理 一、 数据修约 根据测量、计算的目的和要求,要对数据进行数值修约,数值修约内容包括三个部分,即修约间隔、有效位数、取舍规则. 一、 数据修约 在进行具体的数字运算前，按照一定的规则确定一致的位数，然后舍去某些数字后面多余的尾数的过程被称为数字修约，指导数字修约的具体规则被称为数字修约规则。 1、修 约 间 隔 . 修约间隔即有效数字最末一位数值或单位. 也就是两个有效数字之差。 它是数值修约先决条件,只有修约间隔确定后才可进行下面的有效位数和数字处理. 修约间隔的表达方式 a. 指定修约间隔为10-n”(n为整数)，或指明将数值修约到n位小数;b. 指定修约间隔为1,或指明将数值修约到个数位;c 指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数)，或指明将数值修约到“十，“百”，“千”??数位。 1、修 约 间 隔 修约间隔有1、2、5三种,常用的是1间隔. 1间隔是指修约后有效数最后一位数为1的倍数. 同理,2、5间隔分别指有效数最后一位为2或5的倍数. 三种修约间隔可以分别用1×10n（以下n为正或负整数）、0.2×10n、0.5×10n表示，所以，一般2、5修约间隔比1间隔更精确。  1、修 约 间 隔 例如： 分度值为0.2℃、0.5℃的液体玻璃温度计；分度值为0.02mm、0.05mm卡尺；2×10n、5×10n的指针式仪表、天平等。 1间隔的修约方法 1）当拟舍弃数字（有效数字后）小于5时则舍弃，如3.749，保留一位小数，要修约为3.7； 2）当拟舍弃数字大于5时则向前位进1，如3.551，保留一位小数，修约为3.6； 3)当拟舍弃数恰好为5时，应根据有效位的最后一位的奇、偶确定进舍，其结果应使该位总为偶数，即“奇进偶不进”。 如68.350修约为68.4，24.6500修约为24.6。 2间隔修约方法 将拟修约数乘以0.5，按1间隔方法修约后再除以0.5。 如设修约间隔为2，对53.1进行修约， 53.1×0.5＝26.55→（按1间隔修约为）27→27÷0.5＝54，53.1修约为54。 2间隔修约简便方法 （1）欲修约数位于相邻两修约数值之间，取该两数平均值作为参比数，当欲修约数大于参比数时取大的修约数值；当欲修约数小于参比数时取小的修约数值。 （2）欲修约数恰好等于平均值时，将此平均值除以2后此数有效值的末位为奇数则取大的修约数值，为偶数则取小的修约数值（即奇进偶退）。 2间隔修约简便方法 下面以实例说明并与国标法对照比较（修约间隔均为0.02）： （1）修约3.131 简便法：3.131介于3.12与3.14之间，均值为3.13。 3.131＞3.13，故修约数取为3.14。 国标法：3.131×0.5=1.5655→（按1间隔修约为）1.57→1.57÷0.5=3.14 2间隔修约简便方法 （2）修约12.249 简便法：12.249介于12.24与12.26之间，均值为12.25，12.249﹤12.25，故修约数取为12.24。 国标法：12.249×0.5=6.1245→（按1间隔修约为）6.12→6.12÷0.5=12.24 2间隔修约简便方法 （3）修约1.17 简便法：1.17恰好等于1.16与1.18的平均值，1.17÷2=0.585，8为偶数，故修约数取为1.16。 国标法：1.17×0.5=0.585→（按1间隔修约为）0.58→0.58÷0.5=1.16 又如修约1030，修约间隔为2×101，此数恰好是1020和1040的平均值，故取30÷2=15，1为奇数，故取大值，修约为1040。 5间隔修约方法 和2间隔修约法一样，0.5间隔修约按国标法为：将欲修约数乘以0.2（或除以0.5）后，按1间隔方法进行修约，最后除以0.2（或乘以0.5）。 简便法是以欲修约数所在两相邻数平均值为参比值，修约数大于此值取大值，小于此值取小值。若修约数恰好等于参比值时，将欲修约数（或其末位）再除以2，有效数末位为奇数取大值，为偶数则取小值（也是奇进偶退）。 以0.5修约间隔修约实例 （1）修约86.76 简便法：86.76处于86.5与87.0之间，平均值为86.75，86.76＞86.75，故修约为87.0。 国标法：86.76×0.2＝17.352→（按1间隔修约为）17.4→17.4÷0.2＝87.0 （2）修约58.74 简便法：58.74处于58.5与59.0之间，平均值为58.75，58.74＜58.75，故修约为58.5。 国标法：58.74×0.2＝11.748→（按1间隔修约为）11.7→11.7