当前位置:文档之家› 计量数据修约的方法

计量数据修约的方法

计量数据修约的方法
计量数据修约的方法

计量数据修约的方法

要得到准确可靠的数据,除了准确认真的测量外,对测量结果进行正确的化整和修约也是非常重要的。

1. 数值的修约基本方法是遵循四舍六入偶数法则,其修约为:

1) 要舍去的最左边一位数值小于5时,则舍去;

2) 要舍去的最左边一位数值大于或等于5时,而右边跟有并非全部为零的数值时,则进一;

3) 要舍去的最左边一位数值等于5时,而以右边无数值或跟有全部为零的数值时,若保留的末尾数值为奇数则进一,为偶数则舍去;

2. 在数据处理时,遵守上述法则的同时还应该注意一个修约的原则:

1) 应将被修约的数向最近(即差值最小)的一个允许修约值舍入;

2) 当被修约的数值与上下两个修约值的间隔相等,则按以下原则处理:

a、 当按1的倍数修约(常规修约)时,末尾数保持或进为偶数(奇进偶不进);

b、 当按2的倍数修约(0.2单位修约)时,修约的末位数应使末两位数能被4整除;

c、 当按5的倍数修约时,2.5应舍去,7.5应进为10;

3. 在进行常规修约时,只需要进行四舍六入偶数法则即可方便处

理。但是按2、5的整数倍修约时,就要特别注意啦,一不小心就会弄错,所以介绍一种常用的方法——除数修约法。具体步骤如下:

a、 将要修约的检定结果数据除以修约间隔的有效数值2或5;

b、 将所得的商按数值1进舍规则进行修约;

c、 将修约后的数据乘以2或5,则所得的积即为结果数据。

如对1.45按5的倍数修约至小数点后一位,不注意就会修约成1.4,但正确答案是1.5。此时用上述方法则能很快得出:

1.45÷5=0.29,按常规修约后为0.3,0.3×5=1.5;

再如1.30按2的倍数修约至小数点后一位,不注意就会修约成1.4,但正确答案是1.2,

1.3÷2=0.65,按常规修约(奇进偶不进)后为0.6,0.6×2=1.2。

在实际工作中,大多数计量器具的允许误差(准确度等级)一般都是按1、2、5的整数倍进行修约,如果出现1、2、5倍以外的情况,《计量检定规程》有规定的按《规程》执行,无要求的,计量规定向等级高的看齐,如3.0级的按2.0级靠近,按2的整数倍修约。如1.6级的压力表就是向1.5级靠近,即按5的倍数修约。

试验数据的修约

试验数据读取运算修约评定 一、有效数字 (末)的概念:任何一个数最末一位数字所对应的单位量值。 有效数字的概念:当近似数的绝对误差的模小于0.5(末)时,从左边的第一个非零数字算起,直至最末一位数字为止的所有数字。 例1:将e=2.71828……截取到百分位 得近似数 2.72,则此时引起的误差绝对值为|2.72-2.71828……|=0.00172……。 2.72的(末)为0.01,因为0.5(末)=0.5×0.01=0.005>0.00172……,所以称2.72为三位有效数字。同理:2.718为四位有效数字;2.7182不是五位有效数字。 例2:用分度值为1mm的钢直尺测出某混凝土试块边长为150mm。 150的(末)为1mm,绝对误差的模小于0.5(末)=0.5×1=0.5mm,为三位有效数字,即该测量值误差小于0.5mm。 例3:用最小刻度为0.02mm的游标卡尺量出某Φ12钢筋直径为11.96mm。 11.96的(末)为0.02mm,绝对误差的模小于0.5(末)=0.5×0.02=0.01mm,为四位有效数字,即该测量值误差小于0.01mm。 例4:用分度值为0.5mm的砖用卡尺测量出某块普通砖高度为52.5mm。 52.5的(末)为0.5mm,绝对误差的模小于0.5(末)=0.5×0.5=0.25mm,为三位有效数字,即该测量值误差小于0.25mm。 从上可知,测量结果的有效位数同所用测量仪器的最小刻度值(末)密切相关,不同的有效数代表不同的检测精度,如20.10mm比20.1mm检测精度要高。所以,数字右边的“0”不能随意取舍,因为这些“0”都是有效数字。 二、近似数运算 1、加减法运算 以参与运算的各数中(末)最大的数为准,其余的数均比它多保留一位,多余位数应舍去。计算结果的(末),应与参与运算的数中(末)最大的那个数相同。若计算结果尚需参与下一步运算,则可多保留一位。 例5:15.3m+2.786m-0.8749m 取15.3m+2.79m-0.87m=17.22m≈17.2m 计算结果为17.2m。若需参与下一步运算,则取17.22m。 2、乘除法(或乘方开方)运算 以有效数字位数最少的那个数为准,其余数的有效数字均比它多保留一位。运算结果(积、商或乘幂、方根)的有效数字位数,应与参与运算中有效数字位数最少的那个相同。若需参与下一步运算,则可多保留一位。 例6:1.1m×0.3469m×0.20900m

有效数字和数值的修约及运算标准操作规程

**********************有限公司 质量管理标准操作规程 有效数字和数值的修约及运算标准操作规程 1. 目的:规范有效数字和数值的修约及运算标准操作,保证检验工作质量 2. 引用标准:《药品生产质量管理规范》 3. 适用范围:有效数字和数值的修约及运算 4. 责任:质管部QA人员、质管部QC人员、质管部管理人员、注射剂车间、仓库。

5. 内容: 5.1 有效数字的基本概念 5.1.1 有效数字系指在检验工作中所能得到的有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数据,即为有效数字。最后一位有效数字的欠准程度通常只能是上下差1单位。 5.1.2 有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。 5.1.3 有效位数 5.1.3.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右得到的位数减去无效零(即仅为定位用的零)的个数。 5.1.3.2 在其他的十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数 5.1.3.3 非连续型数值(如个数、分数、倍数)是没有欠准数字,其有效位数可视为无限多位。 5.1.3.4 pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。 5.1.3.5 有效数字的首位数字为8或9时,其有效位数可以多计一位。 5.2 数值修约及其进舍规则 5.2.1 数值修约是指对拟修约数值中超出需要保留位数时的舍

弃,根据舍弃数来保留最后一位数或最后几位数。 5.2.2 修约间隔是确定修约保留位数的一种方式,修约间隔的数值已经确定,修约值即为该数值的整数倍。 5.2.3 确定修约位数的表达方式 5.2.3.1 指定位数 (1)指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。 (2)指定修约间隔为1,或指明将数值修约到个位数。 (3)指定修约间隔为10n (n为正整数),或指明将数值修约到10n数位,将指明将数值修约到“十”“百”“千”……数位。 5.2.3.2 指定将数值修约成n位有效数字。 5.2.3.3 在相对标准偏差(RSD)的求算中,其有效位数应为其1/3值的首位(非零数字),故通常为百分位或千分位。 5.2.4 进舍规则,则舍去,即保留的各位数字不变 5.2.4.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 5.2.4.2 拟舍去数字的最左一位数字大于5时,或者是5,而其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加一。 5.2.4.3 拟舍弃数字的最左一位数字为5,而右面无数字或者皆为0时,若所保留末位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 5.2.4.4在相对标准偏差(RSD)中,采用“只进不舍”的原则。

计量数据修约的方法

计量数据修约的方法 要得到准确可靠的数据,除了准确认真的测量外,对测量结果进行正确的化整和修约也是非常重要的。 1. 数值的修约基本方法是遵循四舍六入偶数法则,其修约为: 1) 要舍去的最左边一位数值小于5时,则舍去; 2) 要舍去的最左边一位数值大于或等于5时,而右边跟有并非全部为零的数值时,则进一; 3) 要舍去的最左边一位数值等于5时,而以右边无数值或跟有全部为零的数值时,若保留的末尾数值为奇数则进一,为偶数则舍去; 2. 在数据处理时,遵守上述法则的同时还应该注意一个修约的原则: 1) 应将被修约的数向最近(即差值最小)的一个允许修约值舍入; 2) 当被修约的数值与上下两个修约值的间隔相等,则按以下原则处理: a、 当按1的倍数修约(常规修约)时,末尾数保持或进为偶数(奇进偶不进); b、 当按2的倍数修约(0.2单位修约)时,修约的末位数应使末两位数能被4整除; c、 当按5的倍数修约时,2.5应舍去,7.5应进为10; 3. 在进行常规修约时,只需要进行四舍六入偶数法则即可方便处 理。但是按2、5的整数倍修约时,就要特别注意啦,一不小心就会弄错,所以介绍一种常用的方法——除数修约法。具体步骤如下: a、 将要修约的检定结果数据除以修约间隔的有效数值2或5; b、 将所得的商按数值1进舍规则进行修约;

c、 将修约后的数据乘以2或5,则所得的积即为结果数据。 如对1.45按5的倍数修约至小数点后一位,不注意就会修约成1.4,但正确答案是1.5。此时用上述方法则能很快得出: 1.45÷5=0.29,按常规修约后为0.3,0.3×5=1.5; 再如1.30按2的倍数修约至小数点后一位,不注意就会修约成1.4,但正确答案是1.2, 1.3÷2=0.65,按常规修约(奇进偶不进)后为0.6,0.6×2=1.2。 在实际工作中,大多数计量器具的允许误差(准确度等级)一般都是按1、2、5的整数倍进行修约,如果出现1、2、5倍以外的情况,《计量检定规程》有规定的按《规程》执行,无要求的,计量规定向等级高的看齐,如3.0级的按2.0级靠近,按2的整数倍修约。如1.6级的压力表就是向1.5级靠近,即按5的倍数修约。

有效数字、数值修约及运算规程

1 目的 为对实验过程中实际测量或计算而得的数值进行统一规范的处理,特制定本规程,保证数据计算合理、准确有效。 2 范围 适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。 3 职责 实验员:负责按本操作规程在计算过程中对检验数据进行处理。 复核人、QA:负责按本规程对实验结果进行复核、计算。 各实验室主任:监督本操作规程的实施。 4 内容 4.1 有效数字的基本概念 4.1.1 有效数字系指在药检工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 最后一位数字的欠准程度通道只能是上下差1单位。 如:12.50 ml,前三位是准确的,最后一位是估计的,不甚准确,但它不是臆造的。记录时应保留这一位,这四位都是有效数字。 4.1.2 有效位数 4.1.2.1 有效数字位数的确定原则 由于有效数字的位数反映了测定结果的精确度,它直接与测量的精密度有关。因此,在科学实验和生产过程中正确记录有效数字,不能多写或少写,多写了不能正确反映测量精度,则该数据不真实,因而也就不可靠;少写损失测量精

度。 4.1.2.2 在没有小数位且以若干个零结尾的数值中,有效位数每当指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作 35×103。 4.1.2.3 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数,0.0320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。 4.1.2.4 有效数字的首位数字为8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。 4.1.2.5 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和等数值的有效位数也可视为是无限多位。 4.1.2.6 PH值等对数值,其有效位数由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。例如:PH=11.26([H+]= 5.5×10-12mol/L),其有效位数只有两位。 4.2 数值修约及其进舍规则 4.2.1 数值修约的概念 是对拟修约数值根据保留位数的要求,将多余的数字进行舍弃,根据舍弃数来保留最后一位数或最后几位数,这一过程称为数值修约。

有效数字修约与运算法则

?有效数字修约与运算法则 ? 1.有效数字的基本概念: ?(1)有效数字是指在检验工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。?(2)有效数字的定位(数位),是指确定欠准数字的位置,这个位置确定后,其后面的数字均为无效数字。 ?例如,一支25ml的滴定管,其最小刻度为0.1ml,如果滴定管的体积介符于20.9ml到 21.0ml之间,则需估计一位数字,读出20.97ml,这个7就是个欠准的数字,这个位置确 定后,它有效位数就是4个,即使其后面还有数字也只是无效数字。 ?(3)在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。 ?例如:35000,若有两个无效零,则为三位有效位数,应写作350×102或3.50×104; 若有三个无效零,则为两位有效位数,应写作35×103或3.5×104。 ?(4)在其他10进位数中,有效数字系指从非零数字最左一位向右数而得到的位数,例如:3.2、0.32、0.032和0.0032均为两位有效位数;0.320为三位有效位数;10.00为四位有效位数;12.490为五位有效位数。 ?(5)非连续型数值:(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为 2无限多位。例如,H2SO4中的2和4是个数。常数л和系数等。数值的有效位数可视为无限多位。每1ml××滴定液(0.1mol/L)中的0.1为名义浓度,规格项下的0.3g或“1ml:25mg”中的“0.3”、“1”、“25”均为标示量,其有效位数,也为无限多位。 即在计算中,其有效位数应根据其他数值的最少有效位数而定。 ?(6)pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。

数值修约规则

数值修约规则

数值修约规则 在进行具体的数字运算前,按照一定的规则确定一致的位数,然后舍去某些数字后面多余的尾数的过程被称为数字修约,指导数字修约的具体规则被称为数字修约规则。 科技工作中测定和计算得到的各种数值,除另有规定者外,修约时应按照国家标准文件《数值修约规则》进行。 数字修约时应首先确定“修约间隔”、“有效位数”,即保留位数。一经确定,修约值必须是“修约间隔”的整数倍,保留至“有效位数”。 然后指定表达方式,即选择根据“修约间隔”保留到指定位数,或将数值修约成n位“有效位数”。 使用以下“进舍规则”进行修约: 1. 拟舍弃数字的最左一位数字小于5时则舍去,即保留的各位数字不变。 2.拟舍弃数字的最左一位数字大于5;或等于5,而其后跟有并非全部为0的数字时则进一即保留的末位数字加1。(指定“修约间隔”或“有效位数”明确时,以指定位数为准。) 3.拟舍弃数字的最左一位数字等于5,而右面无数字或皆为0时,若所保留的末位数字为奇数则进一,为偶数(包含0)则舍弃。 4.负数修约时,取绝对值按照上述1~3规定进行修约,再加上负号。 不允许连续修约 数值修约简明口诀:「4舍6入5看右,5后有数进上去,尾数为0向左看,左数奇进偶舍弃」。 现在被广泛使用的数字修约规则主要有四舍五入规则和四舍六入 五留双规则。 四舍五入规则 四舍五入规则是人们习惯采用的一种数字修约规则。 四舍五入规则的具体使用方法是: 在需要保留有效数字的位次后一位,逢五就进,逢四就舍。 例如:将数字2.1875精确保留到千分位(小数点后第三位),因小数点后第四位数字为5,按照此规则应向前一位进一,所以结果为2.188。同理,将下列数字全部修约为四位有效数字,结果为: 0.53664——0.5366 10.2750——10.28

拉伸试验测定结果的数据处理和分析

拉伸试验测定结果的数据 处理和分析 The Standardization Office was revised on the afternoon of December 13, 2020

拉伸试验测定结果的数据处理和分析 一、试验结果的处理 有以下情况之一者,可判定拉伸试验结果无效: (1)试样断在机械刻划的标距上或标距外,且造成断后伸长率不符合规定的最小值者。 (2)操作不当 (3)试验期间仪器设备发生故障,影响了性能测定的准确性。 遇有试验结果无效时,应补做同样数量的试验。但若试验表明材料性能不合格,则在同一炉号材料或同一批坯料中加倍取样复检。若再不合格,该炉号材料或该批坯料就判废或降级处理。 此外,试验时出现2个或2个以上的缩颈,以及断样显示出肉眼可见的冶金缺陷(分层、气泡、夹渣)时,应在试验记录和报告中注明 二、数值修约 (一)数值进舍规则 数值的进舍规则可概括为“四舍六入五考虑,五后非零应进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一”。具体说明如下: (1)在拟舍弃的数字中,若左边第一个数字小于5(不包括5)时,则舍去,即所拟保留的末位数字不变。 例如、将13.346修约到保留一位小数,得13.3。 (2)在拟舍弃的数字中,若左边第一个数字大于5(不包括5)时,则进1,即所拟保留的末位数字加1。

例如,将52. 463修约到保留一位小数,得52.5。 (3)在拟舍弃的数字中,若左边第一个数字等于5,其右边的数字并非全部为零时,则进1,所拟保留的末位数字加1。 例如,将2.1502修约到只保留一位小数。得2.2。 (4)在拟舍弃的数字中若左边第一个数字等于5,其右边无数字或数字皆为零碎时,所拟保留的末位数字若为奇数则进1,若为偶数(包括0)则舍弃。 例如,将下列数字修约到只保留一位小数。 修约前 0.45 0.750 2.0500 3.15 修约后 0.4 0.8 2.0 3.2 (5)所拟舍弃的数字若为两位数字以上时,不得连续进行多次修约,应根据所拟舍弃数字中左边第一个数字的大小,按上述规则一次修约出结果。 例如,将17.4548修约成整数。 正确的做法是:17.4548→17 不正确的做法是:17.455→17.46→17.5→18 (二)非整数单位的修约 试验数值有时要求以5为间隔修约。此时将拟修约的数值乘以2,按指定位数依前述进舍规则修约,然后将所得数值再除以2即可。例如:将下列数字修约到个位数的0.5单位。 拟修约数值X 乘以2 2X修约值 X修约值 30.75 61.50 62.0 30.0 30.45 60.90 61.0 30.5 三、拉伸试验的力学性能指标修约 拉伸试验测定的力学性能指标,除有特殊要求外,一般按表的要求进行修约。

药检有效数字和数值的修约及其运算规则

药检有效数字和数值的修约及其运算规则 一目的:制定有效数字和数值的修约及其运算规则,规范有效数字和数值的修约及其运算。 二适用范围:适用于有效数字和数值的修约及其运算。 三责任者:品控部。 四正文: 本规程系根据中国兽药典2005年版“凡例”和国家标准GB8170-87《数值修约规程》制许,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。 1 有效数字的基本概念 1.1 有效数字系指在检验工作中所能得到有实际意义的数值。其最后位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 最后一位数字的欠准程序通常只能是上下差1单位。 1.2 有效数字的字位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),……,n也可以是负数,如n= -1、10-1=0.1(十分位),n= -2、10-2=0.01(百分位),……, 1.3 有效位数 1.3.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×102。 1.3.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数,为0.320三位有效位数,10.00为四位有效位数,1 2.490为五位有效位数。 1.3.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和系数2等值的有效位数也可视为无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量,

检测 分析结果的数据处理及修约

检测分析结果的数据处理与修约 一.有效数字 一个数的有效数字包括该数中所有的肯定数字再加上最后一位可疑的数字。具体来说,有效数字就是实际上能测到的数字。例如,用万分之一天平秤量最多可精确到0.1mg ,称得的质量,如以克为单位,应正确记录到小数点后四位。 二.数字修约规则 数字修约采用“四舍六入五单双”的原则,即在所拟舍去的数字中,其最左面的第一个数字小于、等于4时舍去,等于、大于6时进一;所拟舍去的数字中,其最左面的第一个数字等于5时,若其后面的数字并非全部为“0”时,则进1,若5后的数字全部为“0”就看5的前一位数,是奇数的则进位是偶数的则舍去(“0”以偶数论)。 三.计算规则 几个数据相加或相减时,计算结果的绝对误差应与各数中绝对误差最大者相等,它们的和或差只能保留一位不确定数字,即有效数字的保留应以小数点后位数最少的数字为根据。 在乘除法中,计算所得结果的相对误差必须与各测量数值中相对误差最大者相近,因此有效数字的保留应根据这一原则进行判断。一般说来,以有效数字位数最少的数为标准,弃去其他数的过多的位数,然后进行乘、除。在计算过程中,可以暂时多保留一位数字,得到最后结果时,再弃去多余的尾数。 四.分析结果的有效数字的保留 1.结果≥10% 保留4位有效数字 2.结果在1%~10%之间保留3位有效数字 3.结果≤1% 保留2位有效数字 五.极端值的取舍 对同一样品进行多次分析(如标样分析)所得到的一组数据总是有一定的离散性,这是由于随机误差引起的,是正常的。但有时出现个别偏离中值较远的较大或较小的数,称为极端值。可借助统计方法来决定取舍。常用的统计方法有格拉布斯(Gru-bbs )的T 值检验法。 将测得的一组值从小到大排成x 1,x 2,x 3,…,x n —1,x n 。先检验与邻近值差距更大的一个,即x 1或x n 。算出该组数的算数平均值(x )和标准偏差(s ),则T 值为: s x x T n -=或 s x x T 1 -=

中华人民共和国国家标准数值修约规则

中华人民共和国国家标准数值修约规则 GB/T8170 s 本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值.需要修约时,除另有规定者外,应按本标准给出的规则进行。 1术语 1.1修约间隔 系确定修约保留位数的一种方式.修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 1.2有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效位数,应写为350×102;若有三个无效零,则为两位有效位数,应写为35×103。 例2:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。z& 例3:12.490为五位有效位数;10.00为四位有效位数。 1.30.5单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。+,g 例如,将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1) 1.40.2单位修约 指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。 例如,将832修约到“百”数位的0.2单位,得840(修约方法见本规则5.2) 2确定修约位数的表达方式 2.1指定数位  a. 指定修约间隔为10n(n为正整数),或指明将数值修约到n位小数;1;3 b. 指定修约间隔为1,或指明将数值修约到个数位; c. 指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”,“百”,“千”……数位。 2.2指定将数值修约成n位有效位数 3进舍规则G 3.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。x 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。> 3.2拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时。 3.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。u 例1:修约间隔为0.1(或10-1) 拟修约数值 修约值 1.050 1.0. 0.3500.4

数据修约规则

数值修约规则 1.术语(法规GB/T 8170) 1.1修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修的到 位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 1.2有效位数 对没有小数位且以若于个零结尾的数值,从非零数字最左位向右数得到的位数减去无效零 (即仅为定位用的零)的个数;对其他十进位数,从非零数字最左、位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效数,应写为350X102;若有三个无效零,则为两位有效数,应写为35 X 103。 例2:3.2、0.32、0.032、0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 1.30.5单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。 例如:将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)。 2.确定修约位数的表达方式 2.1指定数位 a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; b.指定修约间隔为1,或指明将数值修约到个数位; c.指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”、“百”、“千”……数位。 2.2指定将数值修约成n位有效位数。 3.进舍规则 3.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 3.2拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一, 即保留的末位数字加1。 例1:将1268修约到“百”数位,得13X102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127 X 10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时。 3.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数 (1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10-1) 拟修约数值修约值 1.050 1.0 0.350 0.4 例2:修约间隔为1000(或103) 拟修约数值修约值

(计量)数值修约规则

中华人民共和国国家标准数值修约规则 在进行具体的数字运算前,按照一定的规则确定一致的位数,然后舍去某些数字后面多余的尾数的过程被称为数字修约,指导数字修约的具体规则被称为数字修约规则。 科技工作中测定和计算得到的各种数值,除另有规定者外,修约时应按照国家标准文件《数值修约规则》进行。 数字修约时应首先确定“修约间隔”、“有效位数”,即保留位数。一经确定,修约值必须是“修约间隔”的整数倍,保留至“有效位数”。 然后指定表达方式,即选择根据“修约间隔”保留到指定位数,或将数值修约成n位“有效位数”。 使用以下“进舍规则”进行修约: 1. 拟舍弃数字的最左一位数字小于5时则舍去,即保留的各位数字不变。 2.拟舍弃数字的最左一位数字大于5;或等于5,而其后跟有并非全部为0的数字时则进一即保留的末位数字加1。(指定“修约间隔”或“有效位数”明确时,以指定位数为准。) 3.拟舍弃数字的最左一位数字等于5,而右面无数字或皆为0时,若所保留的末位数字为奇数则进一,为偶数(包含0)则舍弃。 4.负数修约时,取绝对值按照上述1~3规定进行修约,再加上负号。 不允许连续修约 数值修约简明口诀:「4舍6入5看右,5后有数进上去,尾数为0向左看,左数奇进偶舍弃」。 现在被广泛使用的数字修约规则主要有四舍五入规则和四舍六入五留双规则。 四舍五入规则 四舍五入规则是人们习惯采用的一种数字修约规则。 四舍五入规则的具体使用方法是: 在需要保留有效数字的位次后一位,逢五就进,逢四就舍。 例如:将数字2.1875精确保留到千分位(小数点后第三位),因小数点后第四位数字为5,按照此规则应向前一位进一,所以结果为2.188。同理,将下列数字全部修约为四位有效数字,结果为:

数据修约规则T

数值修约规则 Rules for rounding off of numberical values UDC 511.1/2 GB/T 8170 本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值。需要修约时,除另有规定者外,应按本标准给出的规则进行。 l 术语 1.1 修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修的到 位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 1.2 有效位数 对没有小数位且以若于个零结尾的数值,从非零数字最左位向右数得到的位数减去无效零 (即仅为定位用的零)的个数;对其他十进位数,从非零数字最左、位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效数,应写为350X102;若有三个无效零,则为两位有效数,应写为35 X 103。 例2:3.2、0.32、0.032、0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 1.3 05单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。 例如:将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)。 2 确定修约位数的表达方式 2.1 指定数位 a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; b.指定修约间隔为1,或指明将数值修约到个数位; c.指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”、“百”、“千”……数位。 2.2 指定将数值修约成n位有效位数。 3 进舍规则 3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 3.2 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到“百”数位,得13X102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127 X 10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时。 3.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10-1) 拟修约数值修约值 1.050 1.0 0.350 0.4

测量数据修约方法

测量数据修约方法 例如,检定1级电能表,在某一负载功率下重复测定3次所得相对误差的平均值,要求按修约间距0.1修约,表明相对误差只保留到小数点后第1位,多余的位数按数据修约规则处理。下面左边是修约前相对误差的平均值,箭头右边是修约后的结果(省去%)。 0.7501→0.8,0.4599→0.5,0.0501→0.1, 0.6499→0.6,0.3286→0.3,0.0499→ 0.3500→0.4,1.050→1.0D2测量数据通用修约方法将测得的各次相对误差的平均值,除以修约间距数,所得之商按数据修约规则修约,修约后的数字乘以修约间距数,所得乘积即为最终结果。D2.1 0.5级电能表相对误差修约方法 0.5级电能表相对误差的修约间距为0.05,表明相对误差只保留到小数点后第2位且为5的整数倍(0或5)。 0.5255=0.105→0.105=0.50; 0.525015=0.→0115=0.55; 0.42995=0.08598→0.095=0.45; 0.57495=0.11498→0.115=0.55; 0。37505=0.0750→0、085=0.40; 0.17895=0.03578→0.045=0.20。 故按修约间距数为5的修约方法:保留位与其右边的数之和,若小于或等于25,保留位变为零;若大于25而小于75,保

留位变成5;若等于或大于75,保留位变成零而保留位左边那位加1。D2.22级和3级电能表相对误差修约方法2级和3级电能表相对误差的修约间距为0.2,表明相对误差只保留到小数点后第1位且为2的整数倍(0,2,4,6,8)。 2.1012=1.0505→1.12=2.2; 1.3992=0.6995→0.72=1.4; 0.50102=0.2505→}0.32=0.6; 3.7992=1.8995→1.92=3.8; 2.9012=1.4505→1.52=3.0: 0.4992=0.2495→0.2X2=0、4: 1.xx=0.6005→0.6X2=1.2:1.4002=0.700→0、7X2=1.4:2.1002=1.050→1.02=2.0:1.1002=0.550→0.6 X2=1.2: 0.3002=0.150→0.2X2=0.4: 1.3002=0.650→0.62=1.2: 0.5002=0.250→0.22=0.4: 0.7002=0.350→0.4X2=0.8:1.7002=0.850→0.8 X2=1.6: 0.9002=0.450→0.42=0.8: 故按修约间距数为2的修约方法: a)若保留位右边不为零,保留位是奇数时加1,保留位是偶数时不变。b )若保留位右边全为零,保留位是偶数时不变;保留位

数值修约规则

中华人民共和国国家标准 UDC 511.1/2 GB 8170—87 数值修约规则 Rules for rounding off of numberical values 本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值。需要修约时,除另有规定者外,应按本标准给出的规则进行。 1 术语 1.1 修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 1.2 有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效位数,应写为350×1022;若有三个无效零,则为两位有效位数,应写为35×103。 例2:3.2,0.32,0.032,0.0032 均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 1.3 0.5 单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。 例如,将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)。 1.4 0.2 单位修约 指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。 例如,将832修约到“百”数位的0.2单位,得840(修约方法见本规则5.2)。 2 确定修约位数的表达方式 2.1 指定数位 a. 指定修约间隔为10-n (n为正整数),或指明将数值修约到n位小数; b. 指定修约间隔为1,或指明将数值修约到个数位; c. 指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”,“百”,“千”……数位。

实验室数据数值修约规则

实验室数据数值修约规则 1 编制目的 为规范和指导实验结果数据修约。 2 适用范围 适用于实验室数据数值修约。 3 术语 3.1修约间隔 系确定修约保留位数的一种方式.修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“ 百” 数位。 3.2有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效位数,应写为350×10 2;若有三个无效零,则为两位有效位数,应写为35×10 3。 例2:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 4 确定修约位数的表达方式

4.1 指定数位 a. 指定修约间隔为10 n (n为正整数),或指明将数值修约到n位小数; b. 指定修约间隔为1,或指明将数值修约到个数位; c. 指定修约间隔为10 n ,或指明将数值修约到10 n 数位(n为正整数),或指明将数值修约到“ 十” ,“ 百” ,“ 千” ……数位。 4.2 指定将数值修约成n位有效位数 5 进舍规则 5.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 5.2 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到“ 百” 数位,得13×10 2(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中,“ 特定时” 的涵义系指修约间隔或有效位数明确时。 5.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10 -1) 拟修约数值修约值 1.050 1.0 0.350 0.4 例2:修约间隔为1000(或10 3)

2.0级电能表误差修约方法 (间隔0.2)

测量数据修约方法 D1数据修约规则 保留位右边的数字对保留位的数字1来说:若大于0.5,保留位加1;若小于0.5,保留位不变,若等于0.5,保留位是偶数(0,2,4,6,8)时不变,是奇数(1,3,5,7,9)时保留位加1。 例如,检定1级电能表,在某一负载功率下重复测定3次所得相对误差的平均值,要求按修约间距0.1修约,表明相对误差只保留到小数点后第1位,多余的位数按数据修约规则处理。下面左边是修约前相对误差的平均值,箭头右边是修约后的结果(省去%)。 0.7501→0.8,0.4599→0.5,0.0501→0.1,0.6499→0.6,0.3286→0.3,0.0499→. 0.3500→0.4, 1.050→1.0 D2测量数据通用修约方法 将测得的各次相对误差的平均值,除以修约间距数,所得之商按数据修约规则修约,修约后的数字乘以修约间距数,所得乘积即为最终结果。 D2.1 0.5级电能表相对误差修约方法 0.5级电能表相对误差的修约间距为0.05,表明相对误差只保留到小数点后第2位且为5的整数倍(0或5)。 0.525÷5=0.105→0.10×5=0.50;0.52501÷5=0.105002→011×5=0.55; 0.4299÷5=0.08598→0.09×5=0.45;0.5749÷5=0.11498→0.11×5=0.55; 0.3750÷5=0.0750→0.08×5=0.40;0.1789÷5=0.03578→0.04×5=0.20。 故按修约间距数为5的修约方法:保留位与其右边的数之和,若小于或等于25,保留位变为零;若大于25而小于75,保留位变成5;若等于或大于75,保留位变成零而保留位左边那位加1。 D2.2级电能表相对误差修约方法 2级电能表相对误差的修约间距为0.2,表明相对误差只保留到小数点后第1位且为2的整数倍(0,2,4,6,8)。 2.101÷2=1.0505→1.1×2=2.2; 1.399÷2=0.6995→0.7×2=1.4; 0.5010÷2=0.2505→0.3×2=0.6; 3.799÷2=1.8995→1.9×2=3.8; 2.901÷2=1.4505→1.5×2= 3.0:0.499÷2=0.2495→0.2X2=0.4: 1.201÷2=0.6005→0.6X2=1.2: 1.400÷2=0.700→0.7X2=1.4: 2.100÷2=1.050→1.0×2=2.0: 1.100÷2=0.550→0.6 X 2=1.2: 0.300÷2=0.150→0.2X2=0.4: 1.300÷2=0.650→0.6×2=1.2: 0.500÷2=0.250→0.2×2=0.4:0.700÷2=0.350→0.4X2=0.8: 1.700÷2=0.850→0.8 X 2=1.6:0.900÷2=0.450→0.4×2=0.8: 故按修约间距数为2的修约方法:a)若保留位右边不为零,保留位是奇数时加1,保留位是偶数时不变。b)若保留位右边全为零,保留位是偶数时不变;保留位是奇数时,将这奇数与其左边的那位数组成的两位数(不计小数点),变成与这两位数最接近的数且为4的整数倍:如1.7→1.6,2.1→2.0,0.7→0.8,0.3→0.4,0.1→0.0。

数据修约规则

数据修约规则 数值修约规则 1. 术语(法规GB/T 8170) 1.1 修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修的到 位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 1.2 有效位数 对没有小数位且以若于个零结尾的数值,从非零数字最左位向右数得到的位数减去无效零 (即仅为定位用的零)的个数;对其他十进位数,从非零数字最左、位向右数而得到的位数,就是有效位数。 2例1:35000,若有两个无效零,则为三位有效数,应写为350X10;若有三个无效零,则为两 3位有效数,应写为35 X 10。 例2:3.2、0.32、0.032、0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 1.3 0.5单位修约(半个单位修约) 指修约间隔为指定数位的 0.5单位,即修约到指定数位的 0.5单位。 例如:将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)。 2. 确定修约位数的表达方式

2.1 指定数位 -na.指定修约间隔为10(n为正整数),或指明将数值修约到n位小数; ,或指明将数值修约到个数位; b.指定修约间隔为 1 nn c.指定修约间隔为 10,或指明将数值修约到10数位(n为正整数),或指明将数值修约到“十”、“百”、“千”……数位。 2.2 指定将数值修约成n位有效位数。 3. 进舍规则 3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 3.2 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一, 即保留的末位数字加1。 2 例1:将1268修约到“百”数位,得13X10(特定时可写为1300)。 例2:将1268修约成三位有效位数,得 127 X 10(特定时可写为 1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中,“特定时” 的涵义系指修约间隔或有效位数明确时。 3.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数 (1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 -1 例1:修约间隔为0.1(或10) 拟修约数值修约值 1.050 1.0 0.350 0.4 3 例2:修约间隔为 1000(或 10)

相关主题
文本预览
相关文档 最新文档