有效数字和数值的修约运算及极限数值判定.ppt

不允许连续修约? 拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果，而不得多次连续修约。 例1：修约97.46，修约间隔为l ? 正确的做法：97.46→97? 不正确的做法：97.46→97.5→98 例2：修约15.4546，修约间隔为l ? 正确的做法：15.4546→15? 不正确的做法：15.4546→15.455→15.46→15.5→16 报出数值最右的非零数字为5时，应在数值右上角加“＋”或加“－”或不加符号，分别表明已进行过舍，进或未舍未进。　　如：16.50＋表示实际值大于16.50，经修约舍弃为16.50；16.50－表示实际值小于16.50，经修约进一为16.50。 如对报出值需进行修约，当拟舍弃数字的最左一位数字为5，且其后无数字或皆为零时，数值右上角有“＋”者进一，有“－”者舍去，其他仍按修约规则进行。　　 如：将下列数字修约到个数位（报出值多留一位至一位小数）。　　 实测值　　 报出值　　　　修约值 　　 15.4546　　 15.5－　　　 15 -11.4563　　-11.5－ -11 　 16.5203　　 16.5＋　　　 17　　 17.5000　　 17.5　　　　 　18 0.5单位修约与0.2单位修约 0.5单位修约（半个单位修约）　　 0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约。 将拟修约数值X乘以2，按指定修约间隔对2X依修约规则修约，所得数值（2X修约值）再除以2。　　 如：将下列数字修约到“个”数位的0.5单位修约　　 拟修约数值X　　2X　　　 2X修约值　　X修约值　　 60.25　　　 120.50　　 120　　　　60.0　　 60.38　　　 120.76　　 121　　　　60.5　　 - 60.75　　　 -121.50　　 -122　 　　-61.0 0.5单位修约与0.2单位修约 0.2单位修约　　 0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。 将拟修约数值X乘以5，按指定修约间隔对5X依修约规则修约，所得数值（5X修约值）再除以5。　　 如：将下列数字修约到“百”数位的0.2单位修约　　 拟修约数值X　　5X　　 　5X修约值　　X修约值　　 830　　　 4150　　 4200　　　　840　　 842　　　 4210　　 4200　　　　840　　 - 930　　　 -4650　　 -4600　 　　-920 熔点 两种修约方式： 按修约间隔1修约 按修约间隔0.5修约 熔点  一、按修约间隔1修约 当指标定位为个位数时，如薄荷脑熔点“42℃～44℃” 四舍六入五成双 例：标准规定应为42℃～44℃ 实测数值42.5℃～43.2℃ 结果修约42℃～43℃ 熔点 二、按修约间隔0.5修约 当指标定位为个位数时，如苯甲酸熔点“121℃～124.5℃” 0.1～0.2舍去，0.8～0.9进位；0.3～0.7修约为0.5； 例：标准规定应为121℃～124.5℃ 实测数值121.6℃～123.2℃ 结果修约121.5℃～123℃ 相加减时 以诸数值中绝对误差最大(即欠准数字的数位最大)的数值为准 相乘除时 以诸数值中相对误差最大(即有效位数最少)的数值为准 在运算过程中，为减少舍入误差，其它数值的修约可以暂时多保留一位，等运算得到结果时，再根据有效位数弃去多余的数字。 →3步走： 一、判定有效数位 　　　　 二、过程多保留１位 三、结果修约 13.65+0.00823+1.633=?? 一、判定有效数位： 绝对误差最大 　　　13.65　　　百分位 二、其它各数均暂先保留至千分位 三、结果修约至有效数位 13.65+0.00823+1.633 ＝13.65+0.008+1.633 ＝15.291 ＝15.29 14.131×0.07654÷0.78=?? 一、判定有效数位： 相对误差最大/有效位数最少 0.78　 　两位有效位数 二、其它各数均暂先保留三位有效位数 三、结果修约至有效数位 14.131×0.07654÷0.78 = 14.1×0.076