环境检测数据的有效位数
- 格式:doc
- 大小:35.50 KB
- 文档页数:2
环境监测实验室数据修约管理制度监测数据报出的位数,对监测结果的准确性和数据资料的统计整理是十分重要的。
监测数据的有效位数应与测试系统的准确度相适应。
一个分析结果的有效数字的位数,主要取决于原始数据的正确记录和数值的正确计算。
在记录测量值时,要同时考虑到计量器具的精密度和准确度,以及测量仪器本身的读数误差。
1有效位数(1)以实验室最常用的计量器具为例,最多保留的有效位数如下:①用万分之一天平进行称量时,有效数字可以记录到小数点后第四位,如1.2235g,此时有效数字为五位。
称取0.9452g,则为四位。
②用玻璃量器量取体积的有效数字位数是根据量器的容量允许差和读数误差来确定的。
如10mLA级无分度单标线吸管,其允差为±0.02mL,准确容积为10.00mL,有效数字均为四位。
③分光光度计的吸光度一般可记到小数点后第三位,有效数字位数最多只有三位。
④带有计算机处理系统的分析仪器,往往根据计算机自身的设定,打印或显示结果,可以有很多位数,但这并不增加仪器的精度和可读的有效位数。
⑤在一系列操作中,使用多种计量仪器时,有效数字以最少的一种计量仪器的位数表示。
(2)表示精密度的有效数字根据分析方法和待测物的浓度不同,一般只取1~2位有效数字。
(3)分析结果小数点后最多位数不能超过方法最低检出浓度的小数位数。
(4)以一元线性回归方程计算时,校准曲线斜率b的有效位数,应与自变量x有效数字位数相等,或最多比x多保留一位。
截距a的最后一位数,则和因变量y的最后一位取齐,或最多比y多保留一位数。
(5)在数值计算中,当有效数字位数确定之后,其余数字应按修约规则一律舍去。
(6)在数值计算中,某些倍数、分数、不连续物理量的数值,以及不经测量而完全根据理论计算或定义得到的数值,其有效数字的位数可视为无限。
这类数值在计算中按需要几位就定几位。
(7)如果监测方法中有规定,则按监测方法规定执行。
2数值的修约2.1数值和修约的概念2.1.1有效数字∶监测得到的数值是个近似值,存在一定的不确定性。
土壤环境监测技术规范土壤环境监测技术规范包括土壤环境监测的布点采样、样品制备、分析方法、结果表征、资料统计和质量评价等技术内容。
一、准备工作主要准备工具,器材,用具等。
二、布点采样样品由随机采集的一些个体所组成,个体之间存在差异。
为了达到采集的监测样品具有好的代表性,必须避免一切主观因素,使组成总体的个体有同样的机会被选入样品,即组成样品的个体应当是随机地取自总体。
另一方面,在一组需要相互之间进行比较的样品应当有同样的个体组成,否则样本大的个体所组成的样品,其代表性会大于样本少的个体组成的样品。
所以“随机”和“等量”是决定样品具有同等代表性的重要条件。
1. 布点方法1)简单随机将监测单元分成网格,每个网格编上号码,决定采样点样品数后,随机抽取规定的样品数的样品,其样本号码对应的网格号,即为采样点。
随机数的获得可以利用掷骰子、抽签、查随机数表的方法。
关于随机数骰子的使用方法可见GB10111《利用随机数骰子进行随机抽样的办法》。
简单随机布点是一种完全不带主观限制条件的布点方法。
2)分块随机根据收集的资料,如果监测区域内的土壤有明显的几种类型,则可将区域分成几块,每块内污染物较均匀,块间的差异较明显。
将每块作为一个监测单元,在每个监测单元内再随机布点。
在正确分块的前提下,分块布点的代表性比简单随机布点好,如果分块不正确,分块布点的效果可能会适得其反。
3)系统随机将监测区域分成面积相等的几部分(网格划分),每网格内布设一采样点,这种布点称为系统随机布点。
如果区域内土壤污染物含量变化较大,系统随机布点比简单随机布点所采样品的代表性要好。
2.基础样品数量1)由均方差和绝对偏差计算样品数用下列公式可计算所需的样品数:N=t2s2/D2式中:N为样品数;t为选定置信水平(土壤环境监测一般选定为95%)一定自由度下的t值(附录A);s2为均方差,可从先前的其它研究或者从极差R(s2=(R/4)2)估计;D为可接受的绝对偏差。
环境监测常规项目检测结果保留位数废水:石油:测定结果小于10mg/L,结果保留两位小数,测定结果大于10mg/L,结果保留三位有效数字BOD:结果小于100mg/L,保留一位小数;100-1000mg/L,取整数;大于1000mg/L,科学计数法氨氮:测定结果保留三位有效数字,小数点后最多三位总氮:测定结果小于1.0mg/L保留小数点后两位,大于1.0mg/L的保留三位有效数字总磷、磷酸盐:测定结果保留两位有效数字高锰酸盐指数:测定结果保留两位有效数字硫化物:测定结果保留两位有效数字,小数点后两位 COD:测定结果保留三位有效数字氟化物:测定结果保留两位有效数字,小数点后最多两位氯化物:测定结果保留三位有效数字氰化物:测定结果保留两位有效数字铜、铅、锌、镉、镍、总铬、铁、锰、钙、砷、汞、硒、银:测定结果保留两位有效数字,小数点后最多两位六价铬:测定结果小于0.1mg/L的保留小数点后三位,测定结果大于0.1mg/L 的保留三位有效数字镁:测定结果保留两位有效数字硝酸盐氮:测定结果保留两位有效数字,小数点后最多两位亚硝酸盐氮:测定结果保留两位有效数字酸度和碱度:测定结果保留三位有效数字硫酸盐:测定结果保留两位有效数字挥发酚:测定结果小于0.1mg/L保留小数点后4位,大于0.1mg/L保留有效数字3位甲醛:测定结果保留两位有效数字,小数点后最多两位苯系物:测定结果保留两位有效数字,小数点后至多两位苯胺:测定结果保留两位有效数字,小数点后至多两位游离余氯:小于0.01mg/L的测定结果保留小数点后三位,大于10mg/L的测定结果保留三位有效数字,在两个之间的测定结果保留小数点后两位细菌类:保留整数(科学计数法是保留两位有效数字) SS:整数LAS:当测定结果小于1mg/L时,保留小数点后两位,测定结果大于等于1mg/L 时,保留三位有效数字。
第八章监测数据的有效位数监测数据报出的位数,对监测结果的准确性和数据资料的统计整理都是十分重要的。
监测数据的有效位数应与测试系统的准确度相适应。
记录测试数据时,只保留一位可疑数字。
1、大气监测数据(以mg/m3计)⑴降尘(吨/月·平方公里)取小数点后一位;硫酸盐化速率(SO3mg/100cm2碱片·日)、CO取小数点后二位;SO2、NOX、TSP、光化学氧化剂取小数点后三位。
⑵其它用比色法分析的项目取小数点后三位。
⑶气温(℃)、风速(m/s)、气压(hPa)取小数点后一位;湿度(%)保留整数位。
2、环境水质监测数据(以mg/l计)。
⑴重量法分析项目:悬浮物测值<1000时取整数位,测值>1000时取三位有效数字。
⑵容量法分析项目:溶解氧、总硬度取小数点后一位;高锰酸盐指数测值>10时取小数点后一位,测值<10时取小数点后二位;CODcr 、BOD5测值>100时取三位有效数字,100>测值>10时取小数点后一位,测值<10时取小数点后二位。
⑶分光光度法分析项目:亚硝酸盐氮、挥发酚、氰化物、六价铬、总铬、砷、总磷、溶解性磷酸盐等取小数点后三位;硝酸盐氮、氨氮、氟化物、总氮、石油类、凯氏氮取小数点后二位。
⑷原子吸收分光光度法分项目:铅、铁、镍、锰等取小数点后二位,石墨炉法测定时取小数点后四位;锌、镉取小数点后三位,镉用石墨炉法测定时取小数点后五位;钙、镁、钠、钾等取小数点后果二位。
⑸冷原子吸收法测汞取小数点后四位,冷原子荧光法测汞取小数点后五位。
⑹气相色谱法分析项目(以µg/l计):DDT、六六六等取小数点后二位。
⑺硫酸盐、氯化物测值取三位有效数字。
⑻其它分析项目:盐度(%)、pH、氟化物(电极法)、电导率(µs/cm×100)、透明度(m)等取小数点后二位;水温和气温(℃)、水深(m)、气压(hPa)等取小数点后一位。
环境监测数据很多时候都是需要进行数据计算,比如锅炉废气排放采样标况体积的计算,环境空气气态污染物采样参比体积的计算,以及实验室分析测试过程中的各种数据计算等。
此时对新手来说,熟练掌握修约数值规则将极为重要。
一、数据修约规则说到数值修约规格,我们就会马上想到“四舍六入五成双”。
下面,我们来重新回顾数据修约规则《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)的一些相关内容。
1、拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例如:若烟气分析仪二氧化硫测定,平均值计算结果:85.33…,结果四舍五入:85mg/m3。
2、拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末尾数字加1。
例如:若烟气分析仪氮氧化物测定,平均值计算结果:36.66…,结果四舍五入:37mg/m3。
3、拟舍弃数字的最左一位数字是5,且其后有非0的数字时进一,即保留数字的末尾数字加1。
例如:若烟尘采样分析仪标况体积的平均值计算结果为:432.252NL,结果四舍五入:432.3NL。
4、拟舍弃数字的最左一位数字是5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末尾数字加1;若所保留的末位数字为偶数(0,2,4,6,8)则舍弃。
例如:若土壤石油烃(C10-C40)实验室分析计算结果为:1.115mg/kg,结果四舍五入:1.12mg/kg。
若土壤石油烃(C10-C40)实验室分析计算结果为:1.145mg/kg,结果四舍五入:1.14mg/kg。
5、负数修约时,先将它的绝对值按照上面1-4的规定进行修约,然后在所得值前面加上负号。
例如:若相对误差计算结果为:-5.33…%,-6.66…%,-1.551%,-1.15%,-1.45%,结果四舍五入:-5.3%,-6.7%,-1.6%,-1.2%,-1.4%。
注意事项:1、修约应是一次修约到位,不允许连续修约。
检测结果数值修约与有效数字保留1目的保证检测结果能够合理地反映测量精度。
2范围适用于大连环境事业部。
3规范性引用文件《地表水和污水监测技术规范》(HJ/T91-2002)《地下水环境监测技术规范》(HJ/T164-2004)《海洋监测规范》(GB17378.2-2007)《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)4定义4.1有效数字所谓有效数字:具体地说,是指在分析工作中实际能够测量到的数字。
我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。
把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。
5内容5.1有效数字的判断5.1.1第一个非零数字前的零不是有效数字.5.1.2第一个非零数字以及之后的所有数字(包括零)都是有效数字.5.1.3当计算的数值为lg或者pH、pOH等对数时,由于小数点以前的部分只表示数量级,故有效数字位数仅由小数点后的数字决定。
例如lgx=9.04为2位有效数字,pH=7.355为三位有效数字。
5.1.4л等常数,具有无限位数的有效数字,在运算时可根据需要取适当的位数。
5.2有效数字的处理5.2.1数据的修约应采用“四舍六入五成双”的原则。
5.2.2拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
5.2.3拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。
5.2.4拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。
5.2.5拟舍弃数字的最左一位数字是5,且其后无数字或者皆为0时,若保留的末位数字为奇数(1,3,5,7,9)则进一;若所保留的末位数字为偶数(0,2,4,6,8),则舍去。
5.2.6有效数字的修约是按照“四舍六入五成双”的原则一次修约的结果,不得多次按“四舍六入五成双”的原则连续修约。
如:97.46保留2位有效数字正确的做法:97.46→97不正确的做法:97.46→97.5→985.3有效数字运算规则5.3.1许多数值相加减时,每个数及它们的和或差的有效数字保留,以小数点后面有效数字位数最少的数据为准。
环境监测中如何进行数值修约及有效数字的取舍检验检测当中,数值的修约是非常重要的一项工作。
然而在现实当中,很多单位忽略了这个问题,使得同一个监测项目报出的结果,有效数字及小数点后的位数不一致。
特别是第三方检测机构的爆发式的发展,忽略质量管理使得报出数据更加混乱。
测量只能不断接近真实值,但是不可能得到真实值。
测量值和真实值的差就是误差。
所谓数值修约,是指通过省略原数值的最后若干位数字,调整所保留的末尾数字,使最后所得的值最接近原数值的过程。
一、数值修约。
检测原始数据通常是很长的一串数字,报出结果的时候,就需要进行数值修约。
数值修约最基本的规则是:进舍规则和不允许连续修约规则。
1、进舍规则用一句话表述,就是“四舍六入五成双”。
四舍六入好理解,五成双是:拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末尾数字问奇数(1,3,5,7,9)则进1,即保留数字的末位数字加1。
若所保留的末尾数字问偶数(0,2,4,6,8),则舍去。
2、不允许连续修约是指一次修约获得结果,不能连续多次修约。
二、有效数字及小数点后最多位数。
在环境监测当中,有效数字的位数、小数点后的位数保留,一般遵循以下几个方面的规则:1、分析结果的表示按照分析方法中的要求执行;2、分析结果有效数字所能达到的小数点后位数,应与分析方法检出限的保持一致;分析结果的有效数字一般不超过 3 位;3、对检定合格的计量器具,有效位数可以记录到最小分度值,最多保留一位不确定数字(估计值);4、表示精密度的有效数字根据分析方法和待测物的浓度不同,一般只取 1~2 位有效数字;5、以一元线性回归方程计算时,校准曲线斜率 b 的有效位数,应与自变量 xi的有效数字位数相等,或最多比 xi 多保留一位。
截距 a 的最后一位数,则和因变量 yi 数值的最后一位取齐,或最多比 yi 多保留一位数。
校准曲线相关系数只舍不入,保留到小数点后第一个非 9 数字。
废水:石油:测定结果小于10mg/L,结果保留两位小数,测定结果大于10mg/L,结果保留三位有效数字BOD:结果小于100mg/L,保留一位小数;100-1000mg/L,取整数;大于1000mg/L,科学计数法氨氮:测定结果保留三位有效数字,小数点后最多三位总氮:测定结果小于1.0mg/L保留小数点后两位,大于1.0mg/L的保留三位有效数字总磷、磷酸盐:测定结果保留两位有效数字高锰酸盐指数:测定结果保留两位有效数字硫化物:测定结果保留两位有效数字,小数点后两位COD:测定结果保留三位有效数字氟化物:测定结果保留两位有效数字,小数点后最多两位氯化物:测定结果保留三位有效数字氰化物:测定结果保留两位有效数字铜、铅、锌、镉、镍、总铬、铁、锰、钙、砷、汞、硒、银:测定结果保留两位有效数字,小数点后最多两位六价铬:测定结果小于0.1mg/L的保留小数点后三位,测定结果大于0.1mg/L的保留三位有效数字镁:测定结果保留两位有效数字硝酸盐氮:测定结果保留两位有效数字,小数点后最多两位亚硝酸盐氮:测定结果保留两位有效数字酸度和碱度:测定结果保留三位有效数字硫酸盐:测定结果保留两位有效数字挥发酚:测定结果小于0.1mg/L保留小数点后4位,大于0.1mg/L保留有效数字3位甲醛:测定结果保留两位有效数字,小数点后最多两位苯系物:测定结果保留两位有效数字,小数点后至多两位苯胺:测定结果保留两位有效数字,小数点后至多两位游离余氯:小于0.01mg/L的测定结果保留小数点后三位,大于10mg/L的测定结果保留三位有效数字,在两个之间的测定结果保留小数点后两位细菌类:保留整数(科学计数法是保留两位有效数字)SS:整数LAS:当测定结果小于1mg/L时,保留小数点后两位,测定结果大于等于1mg/L时,保留三位有效数字。
有效数字在环境监测中的应用(一)关键词:标准溶液单标标准物质标准物质中心北京标准物质网摘要对实验中常用的玻璃量具如单标线吸管、容量瓶、比色管、刻度吸管等进行分析,确定了直读式数据的读数规则及有效位数。
如 10 mL 单标线吸管有效数字位数为 5 位,而 10 mL 刻度吸管随移取溶液体积不同其有效数字位数可能为 2, 3 或 4 位。
分析了环境监测中间接式数据的来源,如标准溶液的浓度、标准曲线的截距、斜率、样品最终浓度等,这些数据应当遵守一定的修约及运算规则,由此确定了间接式数据应当保留合理的有效位数。
研究结果可以为环境监测人员开展实验及数据处理提供依据。
环境监测数据要求具有代表性、准确性、精密性、可比性、完整性,数据处理是环境监测中一个重要的环节,如果处理不当将会导致监测结果不严谨。
环境监测所产生的数据大致可以分为两种:一种是直读式数据,比如滴定管滴定的体积、溶液取用量、药品质量等;另一种是间接数据,这种数据是通过一定公式计算得到的,比如工作曲线的截距、斜率、相关系数、样品的最终浓度等。
这两种数据,无论哪一种都不能随意保留小数点位数,这就涉及到有效数字。
在实际工作中,发现监测人员对检测数据保留多少位小数点把握不准。
其实所谓有效数字,可以理解为在测量过程中,能够反映测量准确的数字和一位估读的数字,跟计量器具的精密度和准确度有直接关系。
比如 10 mL 的刻度吸管,其最小分度值是 0.1 mL,因此实际读数时应保留到小数点后 2 位,如 9.00 mL,10.00 mL, 8.56 mL 等,最后一位“0” ,“0” ,“6” 都是估读的。
而计算所得的数字是以直读数字为基础,按照有效数字的修约规则进行修约、运算所得。
由此可见不能通过保留无数位小数来提高检测精度,但至今还未见到系统性整理环境监测中数据有效性的文献报道。
为此笔者对环境监测中的有效数字问题进行探讨。
1 直读数字环境监测过程所用的计量器具是产生直读数字的直接依据,因此分析人员应当先弄清楚该量具的最小分度值或者能够测量的精准数字,由此来确定实验过程应当记录的小数点位数。
第八章监测数据的有效位数
监测数据报出的位数,对监测结果的准确性和数据资料的统计整理都是十分重要的。
监测数据的有效位数应与测试系统的准确度相适应。
记录测试数据时,只保留一位可疑数字。
1、大气监测数据(以mg/m3计)
⑴降尘(吨/月·平方公里)取小数点后一位;硫酸盐化速率(SO
3
mg/100cm2
碱片·日)、CO取小数点后二位;SO
2、NO
X
、TSP、光化学氧化剂取小数点后三位。
⑵其它用比色法分析的项目取小数点后三位。
⑶气温(℃)、风速(m/s)、气压(hPa)取小数点后一位;湿度(%)保留整数位。
2、环境水质监测数据(以mg/l计)。
⑴重量法分析项目:悬浮物测值<1000时取整数位,测值>1000时取三位有效数字。
⑵容量法分析项目:溶解氧、总硬度取小数点后一位;高锰酸盐指数测值>10
时取小数点后一位,测值<10时取小数点后二位;COD
cr 、BOD
5
测值>100时取三位
有效数字,100>测值>10时取小数点后一位,测值<10时取小数点后二位。
⑶分光光度法分析项目:亚硝酸盐氮、挥发酚、氰化物、六价铬、总铬、砷、总磷、溶解性磷酸盐等取小数点后三位;硝酸盐氮、氨氮、氟化物、总氮、石油类、凯氏氮取小数点后二位。
⑷原子吸收分光光度法分项目:铅、铁、镍、锰等取小数点后二位,石墨炉法测定时取小数点后四位;锌、镉取小数点后三位,镉用石墨炉法测定时取小数点后五位;钙、镁、钠、钾等取小数点后果二位。
⑸冷原子吸收法测汞取小数点后四位,冷原子荧光法测汞取小数点后五位。
⑹气相色谱法分析项目(以µg/l计):DDT、六六六等取小数点后二位。
⑺硫酸盐、氯化物测值取三位有效数字。
⑻其它分析项目:盐度(%)、pH、氟化物(电极法)、电导率(µs/cm×100)、透明度(m)等取小数点后二位;水温和气温(℃)、水深(m)、气压(hPa)等取小数点后一位。
1、降水监测数据
⑴ pH值、阴阳离子含量(mg/l)取小数点后二位。
⑵电导率(µs/cm)取整数位;降雨量(mm)、风速(m/s)、气温(℃)取小数点后一位。
4、底质、土壤监测数据(以mg/kg计)
⑴分光光度法分析项目:总铬取小数点后一位;砷、硫化物取小数点后二位。
⑵容量法分析项目:有机质(%)取小数点后二位。
⑶重量法分析项目:水份(%)取小数点后二位。
⑷原子吸收分光光度法分析项目:铅、铜、锌、镍取三位有效数字;镉取小数点后三位。
⑸冷原子吸收法测汞取小数点后二位,冷原子荧光法测汞取小数点后三位。
⑹气相色谱法分析项目:DDT、六六六等取小数点后三位。
5、生物类监测数据
⑴大型底栖生物取整数,微型则取小数后一位。
⑵浮游生物取整数。
⑶周边原生动物、着生藻类取小数点后二位。
6、噪声监测数据(dB(A))
⑴ L10、L50、L90取整数。
⑵ Leq、σ取小数点后一位。
7、废气、废水污染源监测数据
废气、废水污染源监测数据的有效位数取法随被测样品的浓度、测试系统的精度及测试人员的读数误差而定。
如一般分光光度计读数可以记到小数点后三位,并且其有效数字位数最多也只有三位,所以,对于分光光度法分析项目,当测值<1时,监测数据可取值小数后三位;当测值>1时,监测数据最多取三位有效数字。
又如废气污染源监测,由于采样流量最多也只有三位有效数字,所以废气排放量可以很大,污染物浓度可以很高,但其测值最多只能取三位有效数字。