- 易迪拓培训,专注于微波、射频、天线设计工程师的培养
弹簧管式精密压力表及真空表检定结果讨论
录入:edatop.com 点击:
根据JJG49-1999《弹簧管式精密压力表及真空表》检定规程的要求,对其检定结果的读取值应读至最小分度值的1/10格,同时将正、反行程读数的算术平均值修约至最小分度值的1/10格。那么,如何进行合理的数据修约呢
误差理论中关于数字舍入有如下规则:
(1)若舍去部分的数值大于保留部分末位的半个单位(即舍去的数字段中,首位数字大于5),则末位加1。
(2)若舍去部分的数值小于保留部分末位的半个单位(即舍去的数字段中,首位数字小于5),则末位不变。
(3)若舍去部分的数值等于保留部分末位的半个单位(即舍去的数字段中,首位数字等于5且末位不是0时),则末位凑成偶数,即当末位为偶数时末位不变;当末位为奇数时末位加1。
我们知道,由于数字舍入引起的误差称为舍入误差。按上述规则进行数字舍入,其舍入误差皆不超过保留数字最末位的半个单位。从该规则第(3)条可以看出,被舍去的数字不是见5就入,这样就使舍入误差成为随机误差,联系概率论有关知识,这种舍入方法,保证了“舍”和“入”的概率相等(均为50%),从而使舍入误差的平均值趋于零。
下面就弹簧管式压力表及真空表检定结果的处理,结合上述数据修约规则作以下讨论:
(1)上述规则所说的“半个单位”意指数字“5”,而针对弹簧管式压力表及真空表,因其1/10格有0.0005、0.0002、0.0001、0.005……,其有效数字或为“5”,或为“2”,或为“1”,联系上述规则,这里的“半个单位”就不是规则中所述的“5”了。例如:检定0.4级、上限为1.0MPa的弹簧管式精密压力表,其1/10格为0.0005MPa。在标准值为0.2MPa这一点,若正行程读数为0.1990MPa,反行程读数为0.1995MPa,其平均值为0.19925MPa,按要求应保留至小数点后第4位,根据上述规则进行数字舍入,则修约后的数值为0.1992MPa,显然并未修约到1/10格。
可以对平均值0.19925进行一下分析:0.19925-0.1990+0.00025,既然要求将数据修约到1/10格,则这里待作取舍的数应为0.00025而不是0.00005,所谓的“半个单位”,在这里应理解为1/10格0.0005MPa的一半,即0.00025MPa。也就是说,待作取舍的数应与0.00025相比较。分析1/10格为其他值的情况,也可得出相仿的结论。如1/10格为0.0002MPa时,与待作取舍的数相比较的“半个单位”应为0.0001MPa;1/10格为0.0001MPa时,“半个单位”为0.00005MPa。
总之,针对弹簧管式压力表及真空表,结合误差理论中有关数据修约的规定,对其检定结果进行数据修约时,“半个单位”应理解为“1/10格的一半”。
(2)上述规则从根本上说是为了保证“舍”、“入”的概率相等,但直接按上述规则对检定结果进行数据修约,在有些情况下并不能保证“舍”、“入”的概率相等。
如表1所示,检定0.25级、上限为0.4MPa的弹簧管式精密压力表,其1/10格为0.0002MPa,在这里“半个单位”为“0.0001MPa”,按上述规则第(3)条的规定,对于待舍入数字为“半个单位”的情况,不管正、反行程读数如何变化,都将舍去半个单位量值0.0001MPa,“入”的概率为零。
如0.04MPa这一点,正、反行程读数的平均值为(0.0402+0.0404)/2=0.0403=0.0402+0.0001,末位为偶数“2”,0.0001被舍去。
这显然是不合理的(因为“舍”、“入”概率不相等)。那么,采取什么样的舍入方法才能使待舍入部分的“舍”、“入”概率均等呢 设被检表1/10格小数点后的位数为n,分析表明:为保证“舍”、“入”概率相等,对于待取舍部分为被检表1/10格一半的情况作如下分析:
(1)当被检表1/10格的有效数字为“2”(如1/10格为0.0002)时,应由1/10格相应的第n-1位数字的奇偶性决定取舍。
(2)当被检表1/10格的有效数字为“5”(如1/10格为0.005)或“1”(如1/10格为0.0001)时,由第n位或第n-1位数字的奇偶性决定取舍均可(为统一起见,建议由第n-1位数字的奇偶性决定取舍)。
对《弹簧管式精密压力表 及真空表检定结果讨论》一文的商榷
本文主要对吴建权发表在《中国计量》2008年第11期的《弹簧管式精密压力表及真空表检定结果讨论》一文(以下简称“吴文”)进行商榷。
弹簧管式精密压力表及真空表属于模拟式仪表,国家计量检定规程及其宣贯材料等始终未明确其检定结果数据的修约问题,特别是如何对“2”、“5”间隔读数进行修约。
GB8170-1987《数值修约规则》或GB3101-1993《有关量、单位和符号的一般原则》对“1”、“2”、“5”均有明确的修约规则,但实际工作中如何运用该修约规则?根据JJG49-1999《弹簧管式精密压力表及真空表》检定规程的要求,对其检定结果的读数应读至最小分度值的1/10格。按照精密压力表的国家标准对其分度值规定有“1”、“2”、“5”间隔,按1/10来估读,其结果始终为“1”、“2”、“5”间隔的问题。其修约结果因为是分度值的1/10,所以必须达到这个1/10,否则示值的有效位数就不对,反映出测量时未按要求取值。下面分别举例说明对“1”、“2”、“5”的间隔修约结果:
一、“1”间隔修约
一般按“四舍六入遇偶法则”进行,修约结果末位数从0至9。
如果检定结果数据能相除到估读位一致,就不存在修约问题。如检定数据为1.003、1.005(单位略,下同),则两个数据的平均值为1.004,就不存在修约问题。其修约结果能从精密表的表盘估读出来。
如果检定结果数据不能相除到估读位,就存在修约问题。如检定数据分别为1.003、1.004,其数据的平均值为1.0035,对1.0035在精密表的表盘上无法进行估读。根据“1”间隔修约,结果为1.004,修约位为1.003奇数,因此进位并变为偶数,即1.004。 [p]
二、“2”间隔修约
先除2后再按“1”间隔进行修约,其修约结果尾数一定是2的倍数,即是2、4、6、8、0等数据。
如果检定结果数据能相除到估读位一致,且是2的倍数,就不存在修约问题。如检定数据分别为1.002、1.006,其数据的平均值为1.004。4为2的倍数,其结果1.004也可在精密表的表盘上估读。
如检定数据为1.002、1.004,其数据的平均值为1.003,则1.003在精密表的表盘上无法进行估读。先把1.003除2后得0.5015,对其进行“1”间隔修约,结果为0.502,再将0.502×2=1.004,其结果1.004可在精密表的表盘上估读。但日常工作中不可能这么麻烦地进行修约,一般按修约结果的最后2位数是否被4整除为原则,作为修约结果。如1.003介于1.002与1.004之间,修约结果不是1.002,就是1.004。02不能被4整除(0.5),04被4整除(1),所以取1.004。
三、“5”间隔修约
先除5后再按“1”间隔进行修约,其修约结果尾数一定是5的倍数,即尾数为5、0的数据。
如果检定结果数据能相除到估读位一致,且是5的倍数,就不存在修约问题。如检定数据分别为1.005、1.015,则两个数据的平均值为1.010。尾数为0的数为5的倍数,其结果1.010也可在精密表的表盘上估读。
如检定数据为1.005、1.010,其数据的平均值为1.0075,则1.0075在精密表的表盘上无法进行估读。先把1.0075除5后得0.2015,对其进行“1”间隔修约,结果为0.202,再将0.202×5=1.010,其结果1.010可在精密表的表盘上估读。工作中对介于两数之间的“5”间隔按修约位为“0”作为修约结果。如1.0075介于1.005与1.010之间,修约结果不是1.005,就是1.010。直接取1.010作为修约结果。
下面对吴文中的修约结果(见表1)按本文的规则进行修约。
误差理论中关于数字舍入有如下规则:
(1)若舍去部分的数值大于保留部分末位的半个单位(即舍去的数字段中,首位数字大于5),则末位加1。
(2)若舍去部分的数值小于保留部分末位的半个单位(即舍去的数字段中,首位数字小于5),则末位不变。
(3)若舍去部分的数值等于保留部分末位的半个单位(即舍去的数字段中,首位数字等于5且末位不是0时),则末位凑成偶数,即当末位为偶数时末位不变;当末位为奇数时末位加1。
我们知道,由于数字舍入引起的误差称为舍入误差。按上述规则进行数字舍入,其舍入误差皆不超过保留数字最末位的半个单位。从该规则第(3)条可以看出,被舍去的数字不是见5就入,这样就使舍入误差成为随机误差,联系概率论有关知识,这种舍入方法,保证了“舍”和“入”的概率相等(均为50%),从而使舍入误差的平均值趋于零。
下面就弹簧管式压力表及真空表检定结果的处理,结合上述数据修约规则作以下讨论:
(1)上述规则所说的“半个单位”意指数字“5”,而针对弹簧管式压力表及真空表,因其1/10格有0.0005、0.0002、0.0001、0.005……,其有效数字或为“5”,或为“2”,或为“1”,联系上述规则,这里的“半个单位”就不是规则中所述的“5”了。例如:检定0.4级、上限为1.0MPa的弹簧管式精密压力表,其1/10格为0.0005MPa。在标准值为0.2MPa这一点,若正行程读数为0.1990MPa,反行程读数为0.1995MPa,其平均值为0.19925MPa,按要求应保留至小数点后第4位,根据上述规则进行数字舍入,则修约后的数值为0.1992MPa,显然并未修约到1/10格。
可以对平均值0.19925进行一下分析:0.19925-0.1990+0.00025,既然要求将数据修约到1/10格,则这里待作取舍的数应为0.00025而不是0.00005,所谓的“半个单位”,在这里应理解为1/10格0.0005MPa的一半,即0.00025MPa。也就是说,待作取舍的数应与0.00025相比较。分析1/10格为其他值的情况,也可得出相仿的结论。如1/10格为0.0002MPa时,与待作取舍的数相比较的“半个单位”应为0.0001MPa;1/10格为0.0001MPa时,“半个单位”为0.00005MPa。
总之,针对弹簧管式压力表及真空表,结合误差理论中有关数据修约的规定,对其检定结果进行数据修约时,“半个单位”应理解为“1/10格的一半”。
(2)上述规则从根本上说是为了保证“舍”、“入”的概率相等,但直接按上述规则对检定结果进行数据修约,在有些情况下并不能保证“舍”、“入”的概率相等。
如表1所示,检定0.25级、上限为0.4MPa的弹簧管式精密压力表,其1/10格为0.0002MPa,在这里“半个单位”为“0.0001MPa”,按上述规则第(3)条的规定,对于待舍入数字为“半个单位”的情况,不管正、反行程读数如何变化,都将舍去半个单位量值0.0001MPa,“入”的概率为零。
如0.04MPa这一点,正、反行程读数的平均值为(0.0402+0.0404)/2=0.0403=0.0402+0.0001,末位为偶数“2”,0.0001被舍去。
这显然是不合理的(因为“舍”、“入”概率不相等)。那么,采取什么样的舍入方法才能使待舍入部分的“舍”、“入”概率均等呢 设被检表1/10格小数点后的位数为n,分析表明:为保证“舍”、“入”概率相等,对于待取舍部分为被检表1/10格一半的情况作如下分析:
(1)当被检表1/10格的有效数字为“2”(如1/10格为0.0002)时,应由1/10格相应的第n-1位数字的奇偶性决定取舍。
(2)当被检表1/10格的有效数字为“5”(如1/10格为0.005)或“1”(如1/10格为0.0001)时,由第n位或第n-1位数字的奇偶性决定取舍均可(为统一起见,建议由第n-1位数字的奇偶性决定取舍)。
对《弹簧管式精密压力表 及真空表检定结果讨论》一文的商榷
本文主要对吴建权发表在《中国计量》2008年第11期的《弹簧管式精密压力表及真空表检定结果讨论》一文(以下简称“吴文”)进行商榷。
弹簧管式精密压力表及真空表属于模拟式仪表,国家计量检定规程及其宣贯材料等始终未明确其检定结果数据的修约问题,特别是如何对“2”、“5”间隔读数进行修约。
GB8170-1987《数值修约规则》或GB3101-1993《有关量、单位和符号的一般原则》对“1”、“2”、“5”均有明确的修约规则,但实际工作中如何运用该修约规则?根据JJG49-1999《弹簧管式精密压力表及真空表》检定规程的要求,对其检定结果的读数应读至最小分度值的1/10格。按照精密压力表的国家标准对其分度值规定有“1”、“2”、“5”间隔,按1/10来估读,其结果始终为“1”、“2”、“5”间隔的问题。其修约结果因为是分度值的1/10,所以必须达到这个1/10,否则示值的有效位数就不对,反映出测量时未按要求取值。下面分别举例说明对“1”、“2”、“5”的间隔修约结果:
一、“1”间隔修约
一般按“四舍六入遇偶法则”进行,修约结果末位数从0至9。
如果检定结果数据能相除到估读位一致,就不存在修约问题。如检定数据为1.003、1.005(单位略,下同),则两个数据的平均值为1.004,就不存在修约问题。其修约结果能从精密表的表盘估读出来。
如果检定结果数据不能相除到估读位,就存在修约问题。如检定数据分别为1.003、1.004,其数据的平均值为1.0035,对1.0035在精密表的表盘上无法进行估读。根据“1”间隔修约,结果为1.004,修约位为1.003奇数,因此进位并变为偶数,即1.004。 [p]
二、“2”间隔修约
先除2后再按“1”间隔进行修约,其修约结果尾数一定是2的倍数,即是2、4、6、8、0等数据。
如果检定结果数据能相除到估读位一致,且是2的倍数,就不存在修约问题。如检定数据分别为1.002、1.006,其数据的平均值为1.004。4为2的倍数,其结果1.004也可在精密表的表盘上估读。
如检定数据为1.002、1.004,其数据的平均值为1.003,则1.003在精密表的表盘上无法进行估读。先把1.003除2后得0.5015,对其进行“1”间隔修约,结果为0.502,再将0.502×2=1.004,其结果1.004可在精密表的表盘上估读。但日常工作中不可能这么麻烦地进行修约,一般按修约结果的最后2位数是否被4整除为原则,作为修约结果。如1.003介于1.002与1.004之间,修约结果不是1.002,就是1.004。02不能被4整除(0.5),04被4整除(1),所以取1.004。
三、“5”间隔修约
先除5后再按“1”间隔进行修约,其修约结果尾数一定是5的倍数,即尾数为5、0的数据。
如果检定结果数据能相除到估读位一致,且是5的倍数,就不存在修约问题。如检定数据分别为1.005、1.015,则两个数据的平均值为1.010。尾数为0的数为5的倍数,其结果1.010也可在精密表的表盘上估读。
如检定数据为1.005、1.010,其数据的平均值为1.0075,则1.0075在精密表的表盘上无法进行估读。先把1.0075除5后得0.2015,对其进行“1”间隔修约,结果为0.202,再将0.202×5=1.010,其结果1.010可在精密表的表盘上估读。工作中对介于两数之间的“5”间隔按修约位为“0”作为修约结果。如1.0075介于1.005与1.010之间,修约结果不是1.005,就是1.010。直接取1.010作为修约结果。
下面对吴文中的修约结果(见表1)按本文的规则进行修约。
表1 “吴文”中检定结果与修约结果 单位:MPa
注:准确度级别:0.25级、上限;0.4MPa;1/10格:0.0002MPa
表2 检定结果与修约结果 单位:MPa