当前位置:文档之家› 试验检测中数据的修约与取舍

试验检测中数据的修约与取舍

试验检测中数据的修约与取舍
试验检测中数据的修约与取舍

试验检测中数据的修约与取舍

[摘要] 工程质量的评价是以试验检测数据位依据的,试验检测采集得到的原始数据类多量大,有时杂乱无章,甚至还有错误,因此对试验检测得到的原始数据进行合理的修约后才能得到可靠的试验检测结果。本文通过介绍试验数据的修约规则和取舍方法,说明了数据处理在工程中的实际意义。

[关键词] 试验数据修约取舍

1.前言

工程质量的评价是以试验检测数据位依据的,试验检测采集得到的原始数据类多量大,有时杂乱无章,甚至还有错误,因此对试验检测得到的原始数据进行合理的修约后才能得到可靠的试验检测结果。

2.数据的修约规则

2.1数据分类

质量数据就其本身的特性来说,可以分为计量值数据和计数值数据。

(1)计量值数据。计量值数据是可以连续取值的数据,表现形式是连续型的。如长度、厚度、直径、强度等质量特征,一般都是可以用检测工具或仪器等测量(或试验)的,类似这些质量特征的测量数据,一般都带有小数,如长度为1.15m、1.18m等。在工程质量检验中得出的原始检验数据大部分是计量值数据。

(2)计数值数据。有些反映质量状况的数据是不能用测量器具来度量的。为了反映或描述属于这种类型内容的质量状况,而又必须用数据来表示时,便采用计数的办法,即用1、2、3、…连续地数出个数或次数,凡属于这样性质的数据即为计数值数据。

2.2数据的修约条件

数据获得后,还涉及数据的定位问题,也就是对规定精确程度范围之外的数字如何取舍的问题。

(1)修约间隔

系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。主要有0.1单位修约、0.2单位修约、0.5单位修约、1单位修约等。

例如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数

试验数据的修约

试验数据读取运算修约评定 一、有效数字 (末)的概念:任何一个数最末一位数字所对应的单位量值。 有效数字的概念:当近似数的绝对误差的模小于0.5(末)时,从左边的第一个非零数字算起,直至最末一位数字为止的所有数字。 例1:将e=2.71828……截取到百分位 得近似数 2.72,则此时引起的误差绝对值为|2.72-2.71828……|=0.00172……。 2.72的(末)为0.01,因为0.5(末)=0.5×0.01=0.005>0.00172……,所以称2.72为三位有效数字。同理:2.718为四位有效数字;2.7182不是五位有效数字。 例2:用分度值为1mm的钢直尺测出某混凝土试块边长为150mm。 150的(末)为1mm,绝对误差的模小于0.5(末)=0.5×1=0.5mm,为三位有效数字,即该测量值误差小于0.5mm。 例3:用最小刻度为0.02mm的游标卡尺量出某Φ12钢筋直径为11.96mm。 11.96的(末)为0.02mm,绝对误差的模小于0.5(末)=0.5×0.02=0.01mm,为四位有效数字,即该测量值误差小于0.01mm。 例4:用分度值为0.5mm的砖用卡尺测量出某块普通砖高度为52.5mm。 52.5的(末)为0.5mm,绝对误差的模小于0.5(末)=0.5×0.5=0.25mm,为三位有效数字,即该测量值误差小于0.25mm。 从上可知,测量结果的有效位数同所用测量仪器的最小刻度值(末)密切相关,不同的有效数代表不同的检测精度,如20.10mm比20.1mm检测精度要高。所以,数字右边的“0”不能随意取舍,因为这些“0”都是有效数字。 二、近似数运算 1、加减法运算 以参与运算的各数中(末)最大的数为准,其余的数均比它多保留一位,多余位数应舍去。计算结果的(末),应与参与运算的数中(末)最大的那个数相同。若计算结果尚需参与下一步运算,则可多保留一位。 例5:15.3m+2.786m-0.8749m 取15.3m+2.79m-0.87m=17.22m≈17.2m 计算结果为17.2m。若需参与下一步运算,则取17.22m。 2、乘除法(或乘方开方)运算 以有效数字位数最少的那个数为准,其余数的有效数字均比它多保留一位。运算结果(积、商或乘幂、方根)的有效数字位数,应与参与运算中有效数字位数最少的那个相同。若需参与下一步运算,则可多保留一位。 例6:1.1m×0.3469m×0.20900m

有效数字、数值修约及运算规程

1 目的 为对实验过程中实际测量或计算而得的数值进行统一规范的处理,特制定本规程,保证数据计算合理、准确有效。 2 范围 适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。 3 职责 实验员:负责按本操作规程在计算过程中对检验数据进行处理。 复核人、QA:负责按本规程对实验结果进行复核、计算。 各实验室主任:监督本操作规程的实施。 4 内容 4.1 有效数字的基本概念 4.1.1 有效数字系指在药检工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 最后一位数字的欠准程度通道只能是上下差1单位。 如:12.50 ml,前三位是准确的,最后一位是估计的,不甚准确,但它不是臆造的。记录时应保留这一位,这四位都是有效数字。 4.1.2 有效位数 4.1.2.1 有效数字位数的确定原则 由于有效数字的位数反映了测定结果的精确度,它直接与测量的精密度有关。因此,在科学实验和生产过程中正确记录有效数字,不能多写或少写,多写了不能正确反映测量精度,则该数据不真实,因而也就不可靠;少写损失测量精

度。 4.1.2.2 在没有小数位且以若干个零结尾的数值中,有效位数每当指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作 35×103。 4.1.2.3 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数,0.0320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。 4.1.2.4 有效数字的首位数字为8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。 4.1.2.5 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和等数值的有效位数也可视为是无限多位。 4.1.2.6 PH值等对数值,其有效位数由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。例如:PH=11.26([H+]= 5.5×10-12mol/L),其有效位数只有两位。 4.2 数值修约及其进舍规则 4.2.1 数值修约的概念 是对拟修约数值根据保留位数的要求,将多余的数字进行舍弃,根据舍弃数来保留最后一位数或最后几位数,这一过程称为数值修约。

计量数据修约的方法

计量数据修约的方法 要得到准确可靠的数据,除了准确认真的测量外,对测量结果进行正确的化整和修约也是非常重要的。 1. 数值的修约基本方法是遵循四舍六入偶数法则,其修约为: 1) 要舍去的最左边一位数值小于5时,则舍去; 2) 要舍去的最左边一位数值大于或等于5时,而右边跟有并非全部为零的数值时,则进一; 3) 要舍去的最左边一位数值等于5时,而以右边无数值或跟有全部为零的数值时,若保留的末尾数值为奇数则进一,为偶数则舍去; 2. 在数据处理时,遵守上述法则的同时还应该注意一个修约的原则: 1) 应将被修约的数向最近(即差值最小)的一个允许修约值舍入; 2) 当被修约的数值与上下两个修约值的间隔相等,则按以下原则处理: a、 当按1的倍数修约(常规修约)时,末尾数保持或进为偶数(奇进偶不进); b、 当按2的倍数修约(0.2单位修约)时,修约的末位数应使末两位数能被4整除; c、 当按5的倍数修约时,2.5应舍去,7.5应进为10; 3. 在进行常规修约时,只需要进行四舍六入偶数法则即可方便处 理。但是按2、5的整数倍修约时,就要特别注意啦,一不小心就会弄错,所以介绍一种常用的方法——除数修约法。具体步骤如下: a、 将要修约的检定结果数据除以修约间隔的有效数值2或5; b、 将所得的商按数值1进舍规则进行修约;

c、 将修约后的数据乘以2或5,则所得的积即为结果数据。 如对1.45按5的倍数修约至小数点后一位,不注意就会修约成1.4,但正确答案是1.5。此时用上述方法则能很快得出: 1.45÷5=0.29,按常规修约后为0.3,0.3×5=1.5; 再如1.30按2的倍数修约至小数点后一位,不注意就会修约成1.4,但正确答案是1.2, 1.3÷2=0.65,按常规修约(奇进偶不进)后为0.6,0.6×2=1.2。 在实际工作中,大多数计量器具的允许误差(准确度等级)一般都是按1、2、5的整数倍进行修约,如果出现1、2、5倍以外的情况,《计量检定规程》有规定的按《规程》执行,无要求的,计量规定向等级高的看齐,如3.0级的按2.0级靠近,按2的整数倍修约。如1.6级的压力表就是向1.5级靠近,即按5的倍数修约。

化验室化验数据管理办法

化验分析测定、及结果报出制度 为了保证化验数据的时效性、准确性,也为了化验工作的相对独立性,使整个工作协调、有序进行,特制定本制度。 1、送到化验室的分析试样必须立即进行化验分析测定。 2、化验室分析测定严格依据国标进行(见技术操作规程)。 3、煤、焦样的各项指标分析测定:分析水分、灰分、挥发分、硫分、粘结指数等指标必须保证当天送样,当天测出结果。 4、煤、焦的分析水分、灰分、挥发分、硫分必须做平行试验,如平行试验结果超标,本次试验结果作废,应立即重新测定。数据修约《化验数据修约规定》,各项化验结果的重复性和再现性见《化验结果的精密度表》。 5、化验人员应在原始记录表上签名,做到谁化验谁负责。 6、化验人员计算出Mad、Ad、Vdaf、St,d、,判断焦渣特征。 7、由班组长负责审核化验人员的原始记录(审核记录表是否有编码、编码是否有遗漏及错误,原始记录是否整洁、涂改是否符合规范、计算是否有错误等)。 8、由班组长检查化验人员的化验样量与来样登记是否一致、是否有漏样,检查化验项目与化验结果是否一致、是否有丢项、漏项。 9、化验员填写报表并签章,由化验室主任负责审核化验报表,并签章,由统计人员登记各类报表,并报出前一天的化验报表。 10、化验员不得对化验结果弄虚作假。 11、外来样的化验,必须通过本部门领导同意方可化验,严禁私自收外样进行化验。 12、化验结果报出时间:由统计送交部门领导审核后,将前一天所有试

样的分析结果及时报出。然后将每天的原始单据和统计数据整理归档,不得丢失。 13、化验员填报化验单时,应仔细核对,确认无误,再经化验室负责人审核签字后方可生效,化验员不得私自向外泄露任何化验数据。

第二章 监测数据的处理

第二章 监测数据的统计处理和结果表述 2.1基本概念 2.1.1误差和偏差 2.1.1.1真值:在某一时刻和某一位置或状态下,某量的效应体现出客观值或实际值。 理论真值 真值包括 约定真值 标准器的相对真值 2.1.1.2误差及其分类 1、由于被测量的数据形式通常不能以有限为数表示,同时由于认识能力和科学技术水平的限制,使测量值与真挚不一致,这种矛盾在数值上表现即为误差。 2、差按其性质和产生原因可分为: ●系统误差(可测误差、恒定误差、偏倚):指测量值的总体均值与真值之间的 差别,是由测量过程中某些恒定因素造成的,在一定条件下具有重现性,并不因增加测量次数而减少系统误差,他的产生可以是方法、仪器、试剂、恒定的操作人员或恒定的环境等所造成。 ● 随机误差(偶然误差、不可测误差):是由测量过程中各种随机因素的共同作用所造成的,其遵从正态分布规律。 ●过失误差:是由测量过程中犯下不应有的错误所造成,它明显的歪曲了测量结 果,因而一经发现必须及时改正。 3、 误差的表示方法 绝对误差:测量值(x )与真值(x t )之比。 绝对误差=x-x t 相对误差:指绝对误差与真值之比。 相对误差= t t x x x -×100% 4、偏差:个别测量值与多次测量均值之偏离。分 绝对偏差(d ):测量值与均值(x ’)之差。 d i =x i -x ’ 相对偏差:绝对偏差与均值之比。 相对偏差= ' x d ×100% 平均偏差:是绝对偏差绝对值之和的平均值。 d ’= n 1di n i ∑ =1 = n 1 ( )

标准偏差和相对标准偏差 ● 差方和(S ):指绝对值的平方之和。 S= ∑ =-n i i x x 12 ')( ● 样本方差(s 2 或V ) s 2 =11-n ∑=-n i i x x 12')(=1 1-n S ● 样本标准偏差(s 或s D ) s=2 1)'(1∑=-n i i x x n =S n 1 ● 样本相对标准偏差(变异系数):样本标准偏差在样本均值中所占的百分 数 C v = ' x s ×100% ● 总体方差和总体标准偏差分别以σ2和σ表示 σ2 = N 1∑ =-n i i x 1 2 )(μ σ=∑=-n i i x 1 2)(N 1 μ=N N )x (- x 2 i i 2 ∑∑ 式中:N ——总体容量 μ——总体均值 ● 级差(R ):一组测量值中最大值与最小值之差,表示误差的范围. R=x max -x min 5、总体、样本和平均数 ● 总体和个体 研究对象的全体称总体,其中一个单位叫个体。 ● (2)样本和样本容量 总体中的一部分叫样本,样本中含有个体的数目叫此样本的样本容量。 ● (3)平均数:平均数代表一组变量的平均水平或集中趋势,样本观测中大多数 测量值靠近平均数。 算术均数:样本均数x ’=n x i ∑ 总体均数μ= n x i ∑ n →∞

化验室化验数据管理办法

化验室化验数据管理办法-标准化文件发布号:(9556-EUATWK-MWUB-WUNN-INNUL-DDQTY-KII

化验分析测定、及结果报出制度 为了保证化验数据的时效性、准确性,也为了化验工作的相对独立性,使整个工作协调、有序进行,特制定本制度。 1、送到化验室的分析试样必须立即进行化验分析测定。 2、化验室分析测定严格依据国标进行(见技术操作规程)。 3、煤、焦样的各项指标分析测定:分析水分、灰分、挥发分、硫分、粘结指数等指标必须保证当天送样,当天测出结果。 4、煤、焦的分析水分、灰分、挥发分、硫分必须做平行试验,如平行试验结果超标,本次试验结果作废,应立即重新测定。数据修约《化验数据修约规定》,各项化验结果的重复性和再现性见《化验结果的精密度表》。 5、化验人员应在原始记录表上签名,做到谁化验谁负责。 6、化验人员计算出Mad、Ad、Vdaf、St,d、GR.I,判断焦渣特征。 7、由班组长负责审核化验人员的原始记录(审核记录表是否有编码、编码是否有遗漏及错误,原始记录是否整洁、涂改是否符合规范、计算是否有错误等)。

8、由班组长检查化验人员的化验样量与来样登记是否一致、是否有漏样,检查化验项目与化验结果是否一致、是否有丢项、漏项。 9、化验员填写报表并签章,由化验室主任负责审核化验报表,并签章,由统计人员登记各类报表,并报出前一天的化验报表。 10、化验员不得对化验结果弄虚作假。 11、外来样的化验,必须通过本部门领导同意方可化验,严禁私自收外样进行化验。 12、化验结果报出时间:由统计送交部门领导审核后,将前一天所有试样的分析结果及时报出。然后将每天的原始单据和统计数据整理归档,不得丢失。 13、化验员填报化验单时,应仔细核对,确认无误,再经化验室负责人审核签字后方可生效,化验员不得私自向外泄露任何化验数据。

数据修约规则GBT8170

数值修约规则 Rules for rounding off of numberical values UDC 511.1/2 GB/T 8170 本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值。需要修约时,除另有规定者外,应按本标准给出的规则进行。 l 术语 1.1 修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修的到 位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 1.2 有效位数 对没有小数位且以若于个零结尾的数值,从非零数字最左位向右数得到的位数减去无效零 (即仅为定位用的零)的个数;对其他十进位数,从非零数字最左、位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效数,应写为350X102;若有三个无效零,则为两位有效数,应写为35 X 103。 例2:3.2、0.32、0.032、0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 1.3 05单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。 例如:将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)。 2 确定修约位数的表达方式 2.1 指定数位 a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; b.指定修约间隔为1,或指明将数值修约到个数位; c.指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”、“百”、“千”……数位。 2.2 指定将数值修约成n位有效位数。 3 进舍规则 3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 3.2 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到“百”数位,得13X102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127 X 10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时。 3.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10-1) 拟修约数值修约值 1.050 1.0

有效数字修约SOP

为了规范质量检验部实验室计算过程中的数值修约,特制定本规程。 2 范围 本规程规定了质量检验部实验室计算过程中的数值修约的有关要求。 本规程适用于质量检验部实验室计算过程中的数值修约的管理。 3 职责 3.1 质量检验部检验员在数值计算过程中按本程序对数值进行修约。 3.2 记录复核员负责按此文件要求进行数据的复核。 4 定义 4.1 有效数字:指在检验工作中所能得到的有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1个单位。 4.2 有效数字的定位:是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。 4.3 有效位数: 4.3.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,就应作35×103。 4.3.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数,0.0320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。 4.3.3 非连续型数值(如个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位。例如分子式“H2S04”中的“2”和“4”是个数,含量测定项下“每1ml的××××滴定液(0.1mol/L)”中的“0.1”为名义浓度,规格项下的“0.76g”或“l00ml: 25mg”中的“0.76”、“100”和“25”为标示量,其有效位数均为无限多位。即在计算中,其有效位数应根据其他数值的最少有效位数而定。 4.3.4 pH值等对数值:其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方蒲公英制药技术服务有限公司https://www.doczj.com/doc/816462836.html, 文件编码:STP-QC-0003 版本号:00 文件名称:有效数字和数值修约管理规程文件类别生效日期:页码3/5 蒲公英制药技术论坛倾情奉献版权所有 举例 分析类型有效位数要求(特殊要求 按相关文件执行) 滴定) 13.7mg HPLC峰面积Agilent:保留两位小数 Waters:取整数 HPLC保留时间保留三位小数7.615min

药检有效数字和数值的修约及其运算规则

药检有效数字和数值的修约及其运算规则 一目的:制定有效数字和数值的修约及其运算规则,规范有效数字和数值的修约及其运算。 二适用范围:适用于有效数字和数值的修约及其运算。 三责任者:品控部。 四正文: 本规程系根据中国兽药典2005年版“凡例”和国家标准GB8170-87《数值修约规程》制许,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。 1 有效数字的基本概念 1.1 有效数字系指在检验工作中所能得到有实际意义的数值。其最后位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 最后一位数字的欠准程序通常只能是上下差1单位。 1.2 有效数字的字位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),……,n也可以是负数,如n= -1、10-1=0.1(十分位),n= -2、10-2=0.01(百分位),……, 1.3 有效位数 1.3.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×102。 1.3.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数,为0.320三位有效位数,10.00为四位有效位数,1 2.490为五位有效位数。 1.3.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和系数2等值的有效位数也可视为无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量,

检测 分析结果的数据处理及修约

检测分析结果的数据处理与修约 一.有效数字 一个数的有效数字包括该数中所有的肯定数字再加上最后一位可疑的数字。具体来说,有效数字就是实际上能测到的数字。例如,用万分之一天平秤量最多可精确到0.1mg ,称得的质量,如以克为单位,应正确记录到小数点后四位。 二.数字修约规则 数字修约采用“四舍六入五单双”的原则,即在所拟舍去的数字中,其最左面的第一个数字小于、等于4时舍去,等于、大于6时进一;所拟舍去的数字中,其最左面的第一个数字等于5时,若其后面的数字并非全部为“0”时,则进1,若5后的数字全部为“0”就看5的前一位数,是奇数的则进位是偶数的则舍去(“0”以偶数论)。 三.计算规则 几个数据相加或相减时,计算结果的绝对误差应与各数中绝对误差最大者相等,它们的和或差只能保留一位不确定数字,即有效数字的保留应以小数点后位数最少的数字为根据。 在乘除法中,计算所得结果的相对误差必须与各测量数值中相对误差最大者相近,因此有效数字的保留应根据这一原则进行判断。一般说来,以有效数字位数最少的数为标准,弃去其他数的过多的位数,然后进行乘、除。在计算过程中,可以暂时多保留一位数字,得到最后结果时,再弃去多余的尾数。 四.分析结果的有效数字的保留 1.结果≥10% 保留4位有效数字 2.结果在1%~10%之间保留3位有效数字 3.结果≤1% 保留2位有效数字 五.极端值的取舍 对同一样品进行多次分析(如标样分析)所得到的一组数据总是有一定的离散性,这是由于随机误差引起的,是正常的。但有时出现个别偏离中值较远的较大或较小的数,称为极端值。可借助统计方法来决定取舍。常用的统计方法有格拉布斯(Gru-bbs )的T 值检验法。 将测得的一组值从小到大排成x 1,x 2,x 3,…,x n —1,x n 。先检验与邻近值差距更大的一个,即x 1或x n 。算出该组数的算数平均值(x )和标准偏差(s ),则T 值为: s x x T n -=或 s x x T 1 -=

实验室数字修约作业指导书

前言 1.目的 为确保实验室数据的准确性和处理的科学性,将试验过程中试验数据处理时常用到的基本概念和有效数字的处理方法,特制定本作业指导书。 2.适用范围 适用于xxx检测人员的学习和数据处理参考资料。 3.数字修约 3.1确定修约间隔 (1)指定修约间隔为10-n,(n为正整数),或指明将数值修约到n为小数; (2)指定修约间隔为1,或知名将数值修约到“个”数位; (3)指定修约间隔为10n,(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”“百”“千”…数位。 3.2进舍规则 (1)拟舍弃数字的最左以为数字小于5,则舍去,保留其余各位数字不变。 例1:将12.1498修约到个位数,得12。 例2:将14.1498秀月到一位小数,得12.1。 (2)拟舍弃数字的左一位数字大于5;则进1,即保留数字的末位数字加1。 例:将1268修约到“百”数位,得13×102 (3)拟舍弃数字的最左以为数字是5,其后有非零数字时进1,即保留数字的末尾数字加1。

例:将10.5002修约到个位数,得11。 (4)拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若保留的末尾数字为奇数(1、3、5、7、9)则进1,即保留数字的末位数字加1,;若所保留的末尾数字为偶数(0、2、4、6、8),则舍弃。 例1:修约间隔为0.1,见表1 拟修约数值修约值 1.050 1.0×10-1 0.35 4×10-1 例2:修约间隔为1000,见表2 拟修约数值修约值 2500 2×103 3500 4×103(5)负数修约时,先将它的绝对值按上述(1~4)的规定进行修约,然后在所得的值钱面加上负号。 例:将下列数字修约到“十”数位,见表3 拟修约数值修约值 -355 -36×10 -325 -32×10 例:将下列数字修约到三位小数,即修约间隔为10-3,见表4 拟修约数值修约值 0.0365 -36×10-3 3.3不连续修约 (1)拟修约数字应在确定修约间隔或指定数位后一次修约获得结果,不得多次按进舍规则连续修约。 例:修约97.46,修约间隔为1,见表5 正确的做法97.46→97 不正确的做法97.46→97.5→98 例:修约15.4546,修约间隔为1,见表6

数值修约规则

数值修约规则

数值修约规则 在进行具体的数字运算前,按照一定的规则确定一致的位数,然后舍去某些数字后面多余的尾数的过程被称为数字修约,指导数字修约的具体规则被称为数字修约规则。 科技工作中测定和计算得到的各种数值,除另有规定者外,修约时应按照国家标准文件《数值修约规则》进行。 数字修约时应首先确定“修约间隔”、“有效位数”,即保留位数。一经确定,修约值必须是“修约间隔”的整数倍,保留至“有效位数”。 然后指定表达方式,即选择根据“修约间隔”保留到指定位数,或将数值修约成n位“有效位数”。 使用以下“进舍规则”进行修约: 1. 拟舍弃数字的最左一位数字小于5时则舍去,即保留的各位数字不变。 2.拟舍弃数字的最左一位数字大于5;或等于5,而其后跟有并非全部为0的数字时则进一即保留的末位数字加1。(指定“修约间隔”或“有效位数”明确时,以指定位数为准。) 3.拟舍弃数字的最左一位数字等于5,而右面无数字或皆为0时,若所保留的末位数字为奇数则进一,为偶数(包含0)则舍弃。 4.负数修约时,取绝对值按照上述1~3规定进行修约,再加上负号。 不允许连续修约 数值修约简明口诀:「4舍6入5看右,5后有数进上去,尾数为0向左看,左数奇进偶舍弃」。 现在被广泛使用的数字修约规则主要有四舍五入规则和四舍六入 五留双规则。 四舍五入规则 四舍五入规则是人们习惯采用的一种数字修约规则。 四舍五入规则的具体使用方法是: 在需要保留有效数字的位次后一位,逢五就进,逢四就舍。 例如:将数字2.1875精确保留到千分位(小数点后第三位),因小数点后第四位数字为5,按照此规则应向前一位进一,所以结果为2.188。同理,将下列数字全部修约为四位有效数字,结果为: 0.53664——0.5366 10.2750——10.28

数据修约规则

数值修约规则 1.术语(法规GB/T 8170) 1.1修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修的到 位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 1.2有效位数 对没有小数位且以若于个零结尾的数值,从非零数字最左位向右数得到的位数减去无效零 (即仅为定位用的零)的个数;对其他十进位数,从非零数字最左、位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效数,应写为350X102;若有三个无效零,则为两位有效数,应写为35 X 103。 例2:3.2、0.32、0.032、0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 1.30.5单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。 例如:将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)。 2.确定修约位数的表达方式 2.1指定数位 a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; b.指定修约间隔为1,或指明将数值修约到个数位; c.指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”、“百”、“千”……数位。 2.2指定将数值修约成n位有效位数。 3.进舍规则 3.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 3.2拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一, 即保留的末位数字加1。 例1:将1268修约到“百”数位,得13X102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127 X 10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时。 3.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数 (1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10-1) 拟修约数值修约值 1.050 1.0 0.350 0.4 例2:修约间隔为1000(或103) 拟修约数值修约值

中华人民共和国国家标准数值修约规则

中华人民共和国国家标准数值修约规则 GB/T8170 s 本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值.需要修约时,除另有规定者外,应按本标准给出的规则进行。 1术语 1.1修约间隔 系确定修约保留位数的一种方式.修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 1.2有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效位数,应写为350×102;若有三个无效零,则为两位有效位数,应写为35×103。 例2:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。z& 例3:12.490为五位有效位数;10.00为四位有效位数。 1.30.5单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。+,g 例如,将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1) 1.40.2单位修约 指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。 例如,将832修约到“百”数位的0.2单位,得840(修约方法见本规则5.2) 2确定修约位数的表达方式 2.1指定数位  a. 指定修约间隔为10n(n为正整数),或指明将数值修约到n位小数;1;3 b. 指定修约间隔为1,或指明将数值修约到个数位; c. 指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”,“百”,“千”……数位。 2.2指定将数值修约成n位有效位数 3进舍规则G 3.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。x 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。> 3.2拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时。 3.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。u 例1:修约间隔为0.1(或10-1) 拟修约数值 修约值 1.050 1.0. 0.3500.4

(计量)数值修约规则

中华人民共和国国家标准数值修约规则 在进行具体的数字运算前,按照一定的规则确定一致的位数,然后舍去某些数字后面多余的尾数的过程被称为数字修约,指导数字修约的具体规则被称为数字修约规则。 科技工作中测定和计算得到的各种数值,除另有规定者外,修约时应按照国家标准文件《数值修约规则》进行。 数字修约时应首先确定“修约间隔”、“有效位数”,即保留位数。一经确定,修约值必须是“修约间隔”的整数倍,保留至“有效位数”。 然后指定表达方式,即选择根据“修约间隔”保留到指定位数,或将数值修约成n位“有效位数”。 使用以下“进舍规则”进行修约: 1. 拟舍弃数字的最左一位数字小于5时则舍去,即保留的各位数字不变。 2.拟舍弃数字的最左一位数字大于5;或等于5,而其后跟有并非全部为0的数字时则进一即保留的末位数字加1。(指定“修约间隔”或“有效位数”明确时,以指定位数为准。) 3.拟舍弃数字的最左一位数字等于5,而右面无数字或皆为0时,若所保留的末位数字为奇数则进一,为偶数(包含0)则舍弃。 4.负数修约时,取绝对值按照上述1~3规定进行修约,再加上负号。 不允许连续修约 数值修约简明口诀:「4舍6入5看右,5后有数进上去,尾数为0向左看,左数奇进偶舍弃」。 现在被广泛使用的数字修约规则主要有四舍五入规则和四舍六入五留双规则。 四舍五入规则 四舍五入规则是人们习惯采用的一种数字修约规则。 四舍五入规则的具体使用方法是: 在需要保留有效数字的位次后一位,逢五就进,逢四就舍。 例如:将数字2.1875精确保留到千分位(小数点后第三位),因小数点后第四位数字为5,按照此规则应向前一位进一,所以结果为2.188。同理,将下列数字全部修约为四位有效数字,结果为:

测量数据修约方法

测量数据修约方法 例如,检定1级电能表,在某一负载功率下重复测定3次所得相对误差的平均值,要求按修约间距0.1修约,表明相对误差只保留到小数点后第1位,多余的位数按数据修约规则处理。下面左边是修约前相对误差的平均值,箭头右边是修约后的结果(省去%)。 0.7501→0.8,0.4599→0.5,0.0501→0.1, 0.6499→0.6,0.3286→0.3,0.0499→ 0.3500→0.4,1.050→1.0D2测量数据通用修约方法将测得的各次相对误差的平均值,除以修约间距数,所得之商按数据修约规则修约,修约后的数字乘以修约间距数,所得乘积即为最终结果。D2.1 0.5级电能表相对误差修约方法 0.5级电能表相对误差的修约间距为0.05,表明相对误差只保留到小数点后第2位且为5的整数倍(0或5)。 0.5255=0.105→0.105=0.50; 0.525015=0.→0115=0.55; 0.42995=0.08598→0.095=0.45; 0.57495=0.11498→0.115=0.55; 0。37505=0.0750→0、085=0.40; 0.17895=0.03578→0.045=0.20。 故按修约间距数为5的修约方法:保留位与其右边的数之和,若小于或等于25,保留位变为零;若大于25而小于75,保

留位变成5;若等于或大于75,保留位变成零而保留位左边那位加1。D2.22级和3级电能表相对误差修约方法2级和3级电能表相对误差的修约间距为0.2,表明相对误差只保留到小数点后第1位且为2的整数倍(0,2,4,6,8)。 2.1012=1.0505→1.12=2.2; 1.3992=0.6995→0.72=1.4; 0.50102=0.2505→}0.32=0.6; 3.7992=1.8995→1.92=3.8; 2.9012=1.4505→1.52=3.0: 0.4992=0.2495→0.2X2=0、4: 1.xx=0.6005→0.6X2=1.2:1.4002=0.700→0、7X2=1.4:2.1002=1.050→1.02=2.0:1.1002=0.550→0.6 X2=1.2: 0.3002=0.150→0.2X2=0.4: 1.3002=0.650→0.62=1.2: 0.5002=0.250→0.22=0.4: 0.7002=0.350→0.4X2=0.8:1.7002=0.850→0.8 X2=1.6: 0.9002=0.450→0.42=0.8: 故按修约间距数为2的修约方法: a)若保留位右边不为零,保留位是奇数时加1,保留位是偶数时不变。b )若保留位右边全为零,保留位是偶数时不变;保留位

环境监测数据修约规则

环境监测数据很多时候都是需要进行数据计算,比如锅炉废气排放采样标况体积的计算,环境空气气态污染物采样参比体积的计算,以及实验室分析测试过程中的各种数据计算等。此时对新手来说,熟练掌握修约数值规则将极为重要。 一、数据修约规则 说到数值修约规格,我们就会马上想到“四舍六入五成双”。下面,我们来重新回顾数据修约规则《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)的一些相关内容。 1、拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。 例如:若烟气分析仪二氧化硫测定,平均值计算结果:85.33…,结果四舍五入:85mg/m3。 2、拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末尾数字加1。 例如:若烟气分析仪氮氧化物测定,平均值计算结果:36.66…,结果四舍五入:37mg/m3。 3、拟舍弃数字的最左一位数字是5,且其后有非0的数字时进一,即保留数字的末尾数字加1。 例如:若烟尘采样分析仪标况体积的平均值计算结果为:432.252NL,结果四舍五入:432.3NL。 4、拟舍弃数字的最左一位数字是5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数

字的末尾数字加1;若所保留的末位数字为偶数(0,2,4,6,8)则舍弃。 例如:若土壤石油烃(C10-C40)实验室分析计算结果为:1.115mg/kg,结果四舍五入:1.12mg/kg。 若土壤石油烃(C10-C40)实验室分析计算结果为:1.145mg/kg,结果四舍五入:1.14mg/kg。 5、负数修约时,先将它的绝对值按照上面1-4的规定进行修约,然后在所得值前面加上负号。 例如:若相对误差计算结果为:-5.33…%,-6.66…%,-1.551%,-1.15%,-1.45%,结果四舍五入:-5.3%,-6.7%,-1.6%,-1.2%,-1.4%。 注意事项: 1、修约应是一次修约到位,不允许连续修约。 2、特殊修约要求的按照特殊要求进行修约。 3、更多内容详见《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)。 二、环境监测分析标准和监测技术规范要求 1、环境监测分析标准,尤其是现在新出的标准,在结果计算与表示一节中会明确给出有效数字位数和小数点后位数的要求,所有的数据修约就要按照标准的要求进行。 2、部分环境监测分析标准,尤其是早期的标准,并未对结果的有效数字位数做出明确要求,此时可查找相应的监测技术规范

2.0级电能表误差修约方法 (间隔0.2)

测量数据修约方法 D1数据修约规则 保留位右边的数字对保留位的数字1来说:若大于0.5,保留位加1;若小于0.5,保留位不变,若等于0.5,保留位是偶数(0,2,4,6,8)时不变,是奇数(1,3,5,7,9)时保留位加1。 例如,检定1级电能表,在某一负载功率下重复测定3次所得相对误差的平均值,要求按修约间距0.1修约,表明相对误差只保留到小数点后第1位,多余的位数按数据修约规则处理。下面左边是修约前相对误差的平均值,箭头右边是修约后的结果(省去%)。 0.7501→0.8,0.4599→0.5,0.0501→0.1,0.6499→0.6,0.3286→0.3,0.0499→. 0.3500→0.4, 1.050→1.0 D2测量数据通用修约方法 将测得的各次相对误差的平均值,除以修约间距数,所得之商按数据修约规则修约,修约后的数字乘以修约间距数,所得乘积即为最终结果。 D2.1 0.5级电能表相对误差修约方法 0.5级电能表相对误差的修约间距为0.05,表明相对误差只保留到小数点后第2位且为5的整数倍(0或5)。 0.525÷5=0.105→0.10×5=0.50;0.52501÷5=0.105002→011×5=0.55; 0.4299÷5=0.08598→0.09×5=0.45;0.5749÷5=0.11498→0.11×5=0.55; 0.3750÷5=0.0750→0.08×5=0.40;0.1789÷5=0.03578→0.04×5=0.20。 故按修约间距数为5的修约方法:保留位与其右边的数之和,若小于或等于25,保留位变为零;若大于25而小于75,保留位变成5;若等于或大于75,保留位变成零而保留位左边那位加1。 D2.2级电能表相对误差修约方法 2级电能表相对误差的修约间距为0.2,表明相对误差只保留到小数点后第1位且为2的整数倍(0,2,4,6,8)。 2.101÷2=1.0505→1.1×2=2.2; 1.399÷2=0.6995→0.7×2=1.4; 0.5010÷2=0.2505→0.3×2=0.6; 3.799÷2=1.8995→1.9×2=3.8; 2.901÷2=1.4505→1.5×2= 3.0:0.499÷2=0.2495→0.2X2=0.4: 1.201÷2=0.6005→0.6X2=1.2: 1.400÷2=0.700→0.7X2=1.4: 2.100÷2=1.050→1.0×2=2.0: 1.100÷2=0.550→0.6 X 2=1.2: 0.300÷2=0.150→0.2X2=0.4: 1.300÷2=0.650→0.6×2=1.2: 0.500÷2=0.250→0.2×2=0.4:0.700÷2=0.350→0.4X2=0.8: 1.700÷2=0.850→0.8 X 2=1.6:0.900÷2=0.450→0.4×2=0.8: 故按修约间距数为2的修约方法:a)若保留位右边不为零,保留位是奇数时加1,保留位是偶数时不变。b)若保留位右边全为零,保留位是偶数时不变;保留位是奇数时,将这奇数与其左边的那位数组成的两位数(不计小数点),变成与这两位数最接近的数且为4的整数倍:如1.7→1.6,2.1→2.0,0.7→0.8,0.3→0.4,0.1→0.0。

相关主题
文本预览
相关文档 最新文档