有效数字修约规则 1.pptx
文本预览下载声明
有效数字修约规则;数字修约:在处理数据时,涉及的各测定值的有效数字的位数可能不同,因此需确定各测定值的有效数字的位数。测定值的有效数字位数确定后,就要将他后面多余的数字舍弃。舍弃多余数字的过程为数字修约。;数字修约规则:四舍六入五成双;当被修约的数大于或等于6时,则进位。例如:将3.16修约为2位有效数字时,结果为3.2注意:3.149修约为两位有效数字时结果为3.1;当被修约的数等于5且后面没有数字或有数字“0”时,如5前面是偶数则舍去。例如:将2.45和1.250修约为2位有效数字时结果分别为2.4和1.2.如5前面是奇数则进位。例如:将1.35修约为2位有效数字时结果为1.4;当被修约的数等于5且后面有不为“0”的数字时,该数字总比5大,以进位为宜。例如:将1.851修约为2位有效数字时,结果为1.9;进舍规则四舍六入五考虑,五后非零则进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一,不论数字多少位,都要一次修约成。
显示全部