数值修约规则与极限数值的表示和判定
- 格式:doc
- 大小:31.50 KB
- 文档页数:4
数值修约规则与极限数值的表示和判定1范围本标准规定了对数值进行修约的规则、数值极限数值的表示和判定方法,有关用语及其符号,以及将测定值或其计算值与标准规定的极限数值作比较的方法。
本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值。
当所得数值需要修约时,应按本标准给出的规则进行。
本标准适用于各种标准或其他技术规范的编写和对测试结果的判定。
2 术语和定义下列术语和定义适用于本标准。
2.1数值修约 rounding off for numerical values通过省略原数值的最后若干数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
注:经数值修约后的数值称为(原数值的)修约值。
2.2修约间隔 rounding interval修约值的最小数值单位。
注:修约间隔的数值一经确定,修约值即应为该数值的整数倍。
例l:如指定修约间隔为0.l,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。
2.3极限数值 limiting values标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
3数值修约规则3.1确定修约间隔a)指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;b)指定修约间隔为1,或指明将数值修约到“1”数位;c)指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。
3.2 进舍规则3.2.1 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例:将12.1498修约到个数位,得12;将12.1 498修约到一位小数,得12。
1。
3.2.2 拟舍弃数字的最左一位数字大于5;则进一,即保留数字的末位数字加1。
例:将1268修约到“百”数位,得13×102(特定时可写为1300)。
数值修约规则与极限数值的表示和判定1.在科学计算、工程设计和数据分析等领域中,我们经常需要对数值进行修约和判定极限数值。
修约是指将测量结果或计算结果按照一定的规则进行近似表示,以便于理解和使用;而极限数值的表示和判定则是指判断一个数值是否足够接近于某个极限值。
,我们将介绍数值修约的规则,包括舍入规则和截断规则,并讨论极限数值的表示和判定方法。
2. 数值修约规则2.1 舍入规则舍入是一种常用的数值修约方法,它将一个数值修约为一个近似值,并保留指定的有效数字位数或小数位数。
常见的舍入规则包括四舍五入、向上取整和向下取整。
•四舍五入:当需要保留的下一位数字大于等于5时,将当前位的数字加1;否则,保持当前位的数字不变。
例如,将3.14159舍入到小数点后两位,结果为3.14。
•向上取整:无论下一位数字的大小如何,都将当前位的数字加1。
例如,将3.14159向上取整到小数点后两位,结果为3.15。
•向下取整:无论下一位数字的大小如何,都将当前位的数字保持不变。
例如,将3.14159向下取整到小数点后两位,结果为3.14。
2.2 截断规则截断是另一种常用的数值修约方法,它将一个数值修约为一个近似值,并直接舍弃多余的位数。
常见的截断规则包括截断到指定的有效数字位数或小数位数。
•截断到有效数字位数:将多余的位数直接删除,保留指定的有效数字位数。
例如,将3.14159截断到三个有效数字,结果为3.14。
•截断到小数位数:将多余的小数位数直接删除,保留指定的小数位数。
例如,将3.14159截断到小数点后两位,结果为3.14。
3. 极限数值的表示和判定极限数值是指一个数值在无限接近于某个特定值时的情况。
在实际计算过程中,我们常常需要判断一个数值是否足够接近于某个极限值。
3.1 极限值的表示在数学和物理学中,极限值通常用符号表示,例如x>a表示x无限接近于a。
在计算机中,我们通常使用数值来表示极限值的近似值。
例如,将x>0表示x无限接近于0。
国家GB/T8170-2008《数值修约规则与极限数值的表示和判定》标准已于2009年1月1日起开始实施。
该国家标准代替GB/T8170-1987和GB/T1250-1989二个国家标准,这样原有按照上述二个标准实施相关的数据修约与判定的方法应按GB/T8170-2008标准及时进行调整,以符合新标准的要求。
新标准GB/T8170-2008与原有的GB/T8170-1987和GB/T1250-1989二个标准相比较,在技术内容上有6个方面的变化。
从我们计量检测工作所涉及的内容来看,应有4个方面的变化值得我们研究与探讨。
(一)、关于修约规则
1、在GB/T8170-2008中,一方面在第2章术语和定义中删除了“有效位数”;另一方面,在第3章数值修约规则中删除了“指定将数值修约成n位有效位数”有关内容。
2、在原GB/T8170-87标准中,对确定修约位数的方式有二种:一种是按“指定数位”修约;另一种是按“指定将数值修约成n位有效位数”修约。
由于有二种修约方式,再加上“有效位数”定义的不完整性,在实际使用上容易造成混乱。
这次在新的标准中,只规定了按指定修约间隔(指定数位)修约,扭转了原来因使用二个修约规则而引起的混乱局面。
3、依据GB/T8170-2008标准的规定,在计量技术基础知识教材中,对检测数据的修约及近似值的计算,也需作出适当的调整。
(二)、关于在报出的修约值上加符号“+”或“-”的规定
1、在GB/T8170-2008标准3.3.2.1中规定:在具体实施中,报出数值最右的非零数字为5时,应在数值右上角加上“+”或“-”或不加符号,分别表明已进行过舍,进或未舍未进。
这项规定基本保持了原标准中的做法,只是在形式上作了变化。
原标准中,是将“+”或“-”符号放在数值的后面,新标准规定放在数值的右上角。
例:将下列数字修约到个数位(报出值多一位至一位小数)
15.4546 、 16.5203
解:
实测值报出值修约值
15.4546 15.5- 15
16.5203 16.5+17
2、在GB/T8170-2008标准3.3.2中规定:在具体实施中,有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。
从我们计量检定/校准技术机构来讲,特别是在实施计量校准时,应努力实施这个规定,以有利于企业对检测数据的全面理解。
这个新标准已经实施一年了,大家是按哪一种方式修约的?药典中为什么没有关于数值修约的规定?
三)关于极限值的表示和判定
1、在GB/T8170-2008新标准中,删除了原GB1250-89标准中的第5.1.2条款“有一类极限数值为绝对极限,书写≧0.2和书写≧0.20或
≧0.200,具有同样的界限上的意义,对此类极限数值,用测定值或其计算值判定是否符合要求,需要用全数值比较法”。
同时,新增了4.3.1.3条款“若标准或有关文件规定了使用其中一种比较方法时,一经确定,不得改动。
”
这一变化,使我们在具体工作中能比较容易判断使用那种判定方法。
因为避免了先要对极限数值是绝对极限还是非绝对极限的判断,而有时对一个数值是断定是相对极限还是绝对极限是有一定困难的。
如
2×10-4,究竟是绝对极限值,还是相对极限值?因为该数值可以书写为:0.0002 ,也可以书写为0.02%。
2、根据GB/T8170-2008新标准中4.3.1.2条款“当标准或有关文件中,若对极限数值无特殊规定时,均应使用全数值比较法。
如规定采用修约值比较法,应在标准中加以说明”的规定和4.3.1.3条款的规定,计量仪器的检定/校准,除个别规程与规范中规定了在测量数据需修约后进行测量结果的判断外,大部分都应是采用全数值比较法来判断测量结果。
如JJG313-94《测量用电流互感器》检定规程中第17条款“判断被检电流互感器的误差是否超过表1中给出的误差限值,应以修约后的数据为准”。
又如JJG314-94《测量电压互感器》规程等。
(四)关于修约法比较
1、在GB/T8170-2008新标准中,对使用修约法比较时,又强调了“当测试或计算精度允许时,应先将获得的数值按指定的修约位数多一位或几位报出,然后按3.2的程序修约至规定的位数”。
这一规定的用意在于:在对检测数据修约前,先要保留真实的检测结果,然后再修约,以保证数据的真实可靠。
2、从上可以看出,保留检测数据的真实性是十分重要的,无论是计量检定与是计量校准,做好原始记录是法定计量技术机构计量检定人员的重要职责。
技术质量部
计量器具的选择与修约和数字比较方法的选择的关系;
1、量一物体长度;要求200±1
甲选钢直尺测得;201 结论合格
乙用游标卡尺测得;201.12结论不合格。