数值修约规则与判定.ppt
负数修约时,先将它的绝对值按数字修约规定进行修约,然后在修约值前面加上负号。例1:将下列数字修约到“十”数位拟修约数值修约值-355-36×10第15页,共27页,星期六,2024年,5月不许连续修约拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按进舍规则连续修约。例如:修约15.4546,修约间隔为1正确的做法:15.4546→15不正确的做法:15.4546→15.455→15.46→15.5→16第16页,共27页,星期六,2024年,5月在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。第17页,共27页,星期六,2024年,5月1.报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。例:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50。第18页,共27页,星期六,2024年,5月2.如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按数字修约规则进行。例:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。实测值报出值修约值15.454615.5(一)1516.520316.5(+)17-17.5000-17.5-18-15.4546-(15.5(一))-15第19页,共27页,星期六,2024年,5月计算法则第20页,共27页,星期六,2024年,5月加减运算应以各数中有效数字末位数的数位最高者为准(小数即以小数部分位数最少者为准),其余数均比该数向右多保留一位有效数字。例如:5.89+15.2551=5.89+15.255=21.145第21页,共27页,星期六,2024年,5月乘除运算应以各数中有效数字位数最少者为准,其余数均多取一位有效数字,所得积或商也多取一位有效数字。例如:2.1×3.124=2.1×3.12=6.55第22页,共27页,星期六,2024年,5月平方或开方运算其结果可比原数多保留一位有效数字。例如:1.42=1.961.233=1.861第23页,共27页,星期六,2024年,5月对数运算所取对数位数应与真数有效数字位数相等。例如:lg12.3=1.09第24页,共27页,星期六,2024年,5月特殊实例第25页,共27页,星期六,2024年,5月非连续型数值个数、分数、倍数、名义浓度或标示量等是没有欠准数字的,其有效位数可视为无限多位;常数π、e和系数2,1/2等数值的有效位数也可视为是无限多位。第26页,共27页,星期六,2024年,5月例如:1.分子式“H2S04”中的“2”和“4”是个数;2.含量测定项下“每1ml的××××滴定液(0.1mol/L)”中的“0.1”为名义浓度,其有效位数均为无限多位;3.规格项下的“0.3g”或“1ml”,“25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。第27页,共27页,星期六,2024年,5月1、本标准于2009年01月01日起实施。2、本标准替代:GB/T8170-1987数值修约规则GB/T1250-1989极限数值的表示和判定由2个标准整合修订而成。3、标准文本的内容包括:→范围;→术语和定义;→数值修约规则;→极限数值的表示和判定。GB/T8170-2008数值修约规则与极限数值的表示和判定第2页,共27页,星期六,2024年,5月