试验数据的修约
- 格式:doc
- 大小:120.50 KB
- 文档页数:15
实验室分析中有效数字与数值修约规则有效数字是药物分析中具有实际意义的测定数值。
它是由直接读取的准确数字和通过估读得到的可疑数字(最后一位)组成。
例如:3.2438中的“8”和0.130中的“0”。
有效数字的个数是有效位数,对于不同类型的测定数值其有效位数为:数值修约规则一般来说,分析工作者习惯采用“四舍五入''修约规则,不过在药物分析中逢五就进,必然会造成结果的系统偏高,误差偏大,为了避免这样的状况出现,尽量减少因修约而产生的误差,一般采用四舍六入五留双的修约规则:运算修约规则试验过程中数值记录1、称量实验“精密称定”是指称取重量应准确至所取重量的千分之一;“称定”是指称取重量应准确至所取重量的百分之一,按照“精密称定''项原则进行修约;“称重”,“称取”一般准确到规定重量下一位;取“约XX”时,指取用量不超过规定量的(100÷10)%;取“XX”时,参照修约规则。
2、量取试验以刻度为依据可读到最小刻度所在位并估读最小刻度之间。
图中“1”记录为35.OOcm,而不能记录35cm,图中“2"记录为35.40cm,图中“3”可记录为35.75cm。
量取5mL的液体应采用5-1OnIL的量筒;量取5.OmL的液体应采用5-10mL的刻度管;量取5.OOmL的液体应采用5-10mL的移液管。
容量瓶的定容应记录为定容至100.OOrnL o3、色谱实验■峰面积一般不做修约,按实际测定值进行记录,参与计算后按相关规定进行修约。
■拖尾因子、分离度可修约至小数点后两位,理论塔板数一般修约至正整数。
■保留时间不做修约。
■工作站自动生成数值也可不做修约。
■化合物含量应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。
并且至少保留一位有效数字。
■RSD按“只进不舍”进行修约。
■色谱条件数值不得修约。
■方法学验证项的数值应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。
实验室数据数值修约规则引言概述:实验室数据的数值修约是指对实验结果中的测量数据进行处理和舍入,以满足数据的准确性和可靠性要求。
数值修约规则是实验室数据处理的重要环节,正确的修约规则能够保证实验结果的可靠性和可重复性。
本文将详细介绍实验室数据数值修约的规则和注意事项。
一、有效数字的确定1.1 确定有效数字的原则在实验室数据处理中,有效数字是指能够反映实验结果准确程度的数字位数。
有效数字的确定原则包括以下三个方面:1)所有非零数字都是有效数字;2)零位于非零数字之间时,零也是有效数字;3)零位于非零数字之前或之后时,零不是有效数字。
1.2 确定有效数字的方法确定有效数字的方法主要有以下几种:1)根据测量仪器的精度确定有效数字;2)根据测量结果的误差范围确定有效数字;3)根据实验方法和实验目的确定有效数字。
1.3 有效数字的舍入规则在实验数据处理过程中,需要对测量结果进行舍入,以满足有效数字的要求。
有效数字的舍入规则如下:1)如果舍弃位的数值小于5,则舍去;2)如果舍弃位的数值大于5,则进位;3)如果舍弃位的数值等于5,则根据舍弃位后的数字来决定是否进位,舍弃位后的数字为奇数时进位,为偶数时舍去。
二、数值修约的方法2.1 四舍五入法四舍五入法是最常用的数值修约方法之一。
根据有效数字的舍入规则,将舍弃位的数值进行判断,小于5则舍去,大于5则进位。
2.2 截断法截断法是指直接舍去舍弃位后的所有数字,不进行进位。
这种方法适用于不需要精确到小数点后几位的情况。
2.3 近似法近似法是指根据舍弃位后的数字来决定舍入的方法。
如果舍弃位后的数字为奇数,则进位;如果为偶数,则舍去。
这种方法可以在一定程度上减小舍入误差。
三、数值修约的注意事项3.1 避免重复修约在实验数据处理过程中,应该避免进行重复修约。
重复修约会引入额外的误差,降低数据的准确性。
3.2 合理选择修约位数修约位数的选择应该根据实验数据的精度和所需结果的准确程度来确定。
实验室数据数值修约规则标题:实验室数据数值修约规则引言概述:在实验室工作中,数据的准确性对实验结果的可靠性至关重要。
为了保证数据的准确性,我们需要遵循一定的数值修约规则,以确保数据的精确度和可靠性。
本文将介绍实验室数据数值修约的规则和方法。
一、有效数字的确定1.1 有效数字的定义:有效数字是指数字中能够表达信息的数字,不包括前导零和末尾的零。
1.2 确定有效数字的规则:有效数字的确定需要根据测量仪器的精度和准确性来决定,一般情况下,有效数字取决于最不确定的一位数字。
1.3 有效数字的运算规则:在进行数据运算时,结果的有效数字位数应取决于参与运算的数据中最少的有效数字位数。
二、数值修约的方法2.1 四舍五入法:四舍五入是最常用的数值修约方法,当舍去位数小于5时,舍去位数不变;当舍去位数大于5时,进位。
2.2 截断法:截断是将多余的位数直接舍去,不做任何修约处理。
2.3 近似法:近似法是根据数据的大小和准确性,选择合适的修约方法进行修约,以保证数据的可靠性。
三、零值的处理3.1 零值在有效数字中的位置:零值在有效数字中的位置不影响有效数字的计算,但在末尾的零需要进行修约处理。
3.2 零值的处理方法:对于末尾的零值,可以选择保留或舍去,取决于数据的精确度和实验要求。
3.3 零值的影响:零值的处理会影响数据的精确度和可靠性,需要根据实际情况进行合理处理。
四、科学计数法的运用4.1 科学计数法的定义:科学计数法是一种用于表示极大或极小数值的方法,通过指数形式表示数据的大小。
4.2 科学计数法的优点:科学计数法能够简化数据的表示,减少数据的长度,方便数据的计算和比较。
4.3 科学计数法的应用:在实验室数据处理中,常常会用到科学计数法来表示数据,以提高数据的准确性和可读性。
五、数据记录和报告5.1 数据记录的规范:在记录实验数据时,需要按照一定的格式和规范进行记录,包括有效数字的表示和修约方法。
5.2 数据报告的要求:在撰写实验报告时,需要将数据按照修约规则进行处理,确保数据的准确性和可靠性。
精心整理
页脚内容 试验检测数字修约规则
1、拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
如13.2476修约到一位小数,得13.2。
2、拟舍弃数字的最左一位数字大于5时;或者是5,而且后面的数字并非全部为0时,进1,即保留的末位数加1。
如1167修约到“百”数位,得1200
)则进一,6、负数修约时,先将它的绝对值进行修约,然后在修约值前面加上负号。
7、拟修约数字应在确定修约后的一次修约获得结果,而不得多次按进舍规则连续修约。
如15.4546,修约到个位(即修约间隔为1),
正确做法:15.454615;
不正确做法:15.454615.45515.4615.516。
实验室数据数值修约规则在实验室中,数据的准确性和可靠性对于实验结果的正确性至关重要。
而在实验数据处理过程中,常常需要对数据进行数值修约,以确保数据的精确性和可靠性。
本文将介绍实验室数据数值修约规则,帮助实验人员正确处理实验数据。
一、数值修约的概念和意义1.1 数值修约是指在数据处理过程中,对数据进行适当的舍入处理,以减少数据的误差和提高数据的精确性。
1.2 数值修约的目的是避免数据过于精确而导致误差累积,同时也便于数据的理解和分析。
1.3 数值修约是实验数据处理的重要环节,对实验结果的准确性和可靠性起着关键作用。
二、数值修约的原则2.1 确定有效数字位数:根据实验数据的精度和测量仪器的精度确定有效数字的位数。
2.2 舍入规则:根据有效数字的位数和舍入规则对数据进行舍入处理。
2.3 保留有效数字:在数据处理过程中,要保留足够的有效数字,以确保数据的准确性。
三、数值修约的方法3.1 四舍五入法:在舍入处理中,通常采用四舍五入法,即当小数部分大于等于5时进位,小于5时舍去。
3.2 截断法:在某些情况下,可以采用截断法对数据进行舍入处理,即直接舍去多余的小数部分。
3.3 近似法:对于复杂的计算结果,可以采用近似法对数据进行处理,以简化计算过程和减少误差。
四、数值修约的应用4.1 实验数据处理:在实验数据处理过程中,要根据实验要求和数据精度进行数值修约,以确保实验结果的准确性。
4.2 数据分析:在数据分析过程中,要对数据进行适当的数值修约,以便于数据的比较和分析。
4.3 报告撰写:在实验报告的撰写过程中,要对数据进行规范的数值修约,以便于他人理解和参考。
五、数值修约的注意事项5.1 避免误差累积:在数据处理过程中,要避免多次舍入导致误差的累积,尽量减少舍入次数。
5.2 注意数据精度:在进行数值修约时,要根据数据的精度和测量仪器的精度确定有效数字的位数。
5.3 定期校验:在实验数据处理过程中,要定期校验数据的准确性和可靠性,确保数据处理的正确性。
试验数据读取运算修约评定一、有效数字(末)的概念:任何一个数最末一位数字所对应的单位量值。
有效数字的概念:当近似数的绝对误差的模小于0.5(末)时,从左边的第一个非零数字算起,直至最末一位数字为止的所有数字。
例1:将e=2.71828……截取到百分位得近似数 2.72,则此时引起的误差绝对值为|2.72-2.71828……|=0.00172……。
2.72的(末)为0.01,因为0.5(末)=0.5×0.01=0.005>0.00172……,所以称2.72为三位有效数字。
同理:2.718为四位有效数字;2.7182不是五位有效数字。
例2:用分度值为1mm的钢直尺测出某混凝土试块边长为150mm。
150的(末)为1mm,绝对误差的模小于0.5(末)=0.5×1=0.5mm,为三位有效数字,即该测量值误差小于0.5mm。
例3:用最小刻度为0.02mm的游标卡尺量出某Φ12钢筋直径为11.96mm。
11.96的(末)为0.02mm,绝对误差的模小于0.5(末)=0.5×0.02=0.01mm,为四位有效数字,即该测量值误差小于0.01mm。
例4:用分度值为0.5mm的砖用卡尺测量出某块普通砖高度为52.5mm。
52.5的(末)为0.5mm,绝对误差的模小于0.5(末)=0.5×0.5=0.25mm,为三位有效数字,即该测量值误差小于0.25mm。
从上可知,测量结果的有效位数同所用测量仪器的最小刻度值(末)密切相关,不同的有效数代表不同的检测精度,如20.10mm比20.1mm检测精度要高。
所以,数字右边的“0”不能随意取舍,因为这些“0”都是有效数字。
二、近似数运算1、加减法运算以参与运算的各数中(末)最大的数为准,其余的数均比它多保留一位,多余位数应舍去。
计算结果的(末),应与参与运算的数中(末)最大的那个数相同。
若计算结果尚需参与下一步运算,则可多保留一位。
金属材料拉伸试验结果数值修约一、引言金属材料的力学性能是工程设计和制造过程中至关重要的一部分。
拉伸试验是评估材料力学性能的重要方法之一,通过拉伸试验可以获得材料的屈服强度、抗拉强度、伸长率和断裂韧度等参数。
而这些参数往往需要进行数值修约,以便更好地应用于工程实践中。
本文将围绕金属材料拉伸试验结果数值修约展开讨论,旨在帮助读者更好地理解这一关键概念。
二、拉伸试验结果数值修约的概念拉伸试验通常会得到一系列的力学性能数据,如屈服强度、抗拉强度等。
这些数据往往是经过仪器测量后得到的原始数值,而原始数值往往是十进制无限位数的。
在工程实践中,往往需要对这些数值进行修约,以便更好地适用于工程设计和制造中。
数值修约即为对原始数值进行精确到一定位数的近似表示,通常是保留有效数字位数,舍入到最接近原始数值的数字。
这样可以简化数据处理,减小误差传递,并使数据更易于理解和应用。
三、数值修约的方法和原则1.有效数字位数在进行数值修约时,我们需要确定保留的有效数字位数。
有效数字位数是指一个数中从第一个非零数字开始,一直到末尾数字为止的位数。
在拉伸试验结果的数值修约中,通常会根据实际需要确定有效数字位数,以确保修约结果既满足精度要求,又不至于过分精确。
2.舍入规则对于原始数值,常用的舍入规则包括四舍五入、就近取偶等。
在工程实践中,通常会根据标准规范和实际情况选择合适的舍入规则,以确保修约结果的准确性和合理性。
3.误差传递数值修约可能会引入误差,特别是在多步计算过程中。
在进行数值修约时,需要注意误差传递的问题,避免修约误差对最终结果产生不良影响。
四、金属材料拉伸试验结果数值修约的实际应用金属材料的力学性能参数,如屈服强度、抗拉强度等,通常需要进行数值修约后才能被工程设计和制造过程所应用。
通过数值修约,可以使这些参数更易于理解和应用,同时也可以减小误差传递,提高数据的可靠性和可用性。
在工程实践中,通常会根据设计要求和制造工艺确定拉伸试验结果数值修约的方法和原则,以确保数据的有效性和适用性。
一、实验室数据修约(一)判断题1. 实验室数据修约时拟舍去的数字最左一位小于5,可以直接舍去,保留的各位数字不变。
(√)2. 实验室数据修约时拟舍去的数字最左一位大于5,可以直接舍去,保留的各位数字不变。
(×)3. 实验室数据修约时拟舍去的数字最左一位为5,而其后跟有并非全部为零的数字则进一。
(√)4. 实验室数据修约时拟舍去的数字最左一位为5,而其后无数字或全部为零,则进一。
(×)5. 数字1.9587修约成三位有效数位,修约后为1.96。
(√)6. 数字1.6975修约成四位有效数位,修约后为1.698。
(√)7. 数字25.65修约成三位有效数位,修约后为25.7。
(×)8. 数字0.8763修约成三位有效数位,修约后为0.876。
(√)9. 砂的堆积密度试验时测定的结果为1.569g/cm3,修约后为1.57g/cm3。
(√)10. 砂的堆积密度试验时测定的结果为1.795006g/cm3,修约后为1.79g/cm3。
(×)11. 含水率试验时测定的结果为3.3487%,修约后为3.4%。
(×)12. 含水率试验时测定的结果为3.0501%,修约后为3.1%。
(√)13. 实验室计算结果为0.51697,修约成三位有效数位,修约后为0.517 。
(√)14. 实验室数据修约时拟舍去的数字最左一位大于5,可以直接进一。
(√)15. 数字0.032710为五位有效数位。
(√)16. 土的孔隙比计算结果为1.27949,修约成三位有效数位,修约后为1.280 。
(×)17 .数字1.965004修约成三位有效数位,修约后为1.97。
(√)18.某些材料虽然在受力初期表现为弹性,达到一定程度后表现出塑性特征,这类材料称为塑性材料。
(×)19.材料吸水饱和状态时水占的体积可视为开口孔隙体积。
(√)20.在空气中吸收水分的性质称为材料的吸水性。
试验数据读取运算修约评定一、有效数字(末)的概念:任何一个数最末一位数字所对应的单位量值。
有效数字的概念:当近似数的绝对误差的模小于0.5(末)时,从左边的第一个非零数字算起,直至最末一位数字为止的所有数字。
例1:将e=2.71828……截取到百分位得近似数 2.72,则此时引起的误差绝对值为|2.72-2.71828……|=0.00172……。
2.72的(末)为0.01,因为0.5(末)=0.5×0.01=0.005>0.00172……,所以称2.72为三位有效数字。
同理:2.718为四位有效数字;2.7182不是五位有效数字。
例2:用分度值为1mm的钢直尺测出某混凝土试块边长为150mm。
150的(末)为1mm,绝对误差的模小于0.5(末)=0.5×1=0.5mm,为三位有效数字,即该测量值误差小于0.5mm。
例3:用最小刻度为0.02mm的游标卡尺量出某Φ12钢筋直径为11.96mm。
11.96的(末)为0.02mm,绝对误差的模小于0.5(末)=0.5×0.02=0.01mm,为四位有效数字,即该测量值误差小于0.01mm。
例4:用分度值为0.5mm的砖用卡尺测量出某块普通砖高度为52.5mm。
52.5的(末)为0.5mm,绝对误差的模小于0.5(末)=0.5×0.5=0.25mm,为三位有效数字,即该测量值误差小于0.25mm。
从上可知,测量结果的有效位数同所用测量仪器的最小刻度值(末)密切相关,不同的有效数代表不同的检测精度,如20.10mm比20.1mm检测精度要高。
所以,数字右边的“0”不能随意取舍,因为这些“0”都是有效数字。
二、近似数运算1、加减法运算以参与运算的各数中(末)最大的数为准,其余的数均比它多保留一位,多余位数应舍去。
计算结果的(末),应与参与运算的数中(末)最大的那个数相同。
若计算结果尚需参与下一步运算,则可多保留一位。
例5:15.3m+2.786m-0.8749m取15.3m+2.79m-0.87m=17.22m≈17.2m计算结果为17.2m。
若需参与下一步运算,则取17.22m。
2、乘除法(或乘方开方)运算以有效数字位数最少的那个数为准,其余数的有效数字均比它多保留一位。
运算结果(积、商或乘幂、方根)的有效数字位数,应与参与运算中有效数字位数最少的那个相同。
若需参与下一步运算,则可多保留一位。
例6:1.1m×0.3469m×0.20900m取1.1m×0.347m×0.209m=0.0798m3≈0.080m3计算结果为0.080m3。
若需参与下一步结算,则取0.0798 m3。
三、数据修约1、基本概念选取一个其值为修约间隔整数倍的数(称为修约数)来代替拟修约数,这一过程称为数据修约。
修约间隔又称为修约区间或化整间隔,是确定修约保留位数的一种方式,一般以k×10n的形式表示(k=1.2.5;n为正、负整数)。
修约间隔一经确定,修约数只能是修约间隔的整数倍。
2、修约规则(1)如果为修约间隔整数倍的一系列数中,只有一个数最接近拟修约数,这个数就是修约数。
例7:将1.250001按0.1修约间隔进行修约。
与拟修约数1.250001邻近的为修约间隔0.1整数倍的数有1.2和1.3,而1.3最接近拟修约数,所以1.3就是修约数。
例8:将2.015修约至十分位的0.2个单位。
修约间隔为0.02,与拟修约数邻近的为0.02整数倍的数有2.00(100倍)和2.02(101倍),2.02最接近拟修约数,故2.02是修约数。
例9:将2.2505按5间隔修约至十分位。
修约间隔是0.5的邻近数为2.0和2.5。
2.5最接近拟修约数,故2.5为修约数。
(2)如果为修约间隔整数倍的一系列数中,有连续的两个数相同等地接近拟修约数,则这两个数中,只有为修约间隔偶数倍的那个数才是修约数。
例10:将250按100修约间隔修约邻近数有200和300,它们同等地接近拟修约数。
200是100的2倍,而300是100的3倍,所以200是修约数。
例11:将0.500按0.2间隔修约邻近数为0.4和0.6,它们同等地接近拟修约数。
0.4是0.2的2倍,0.6是0.2的3倍,因而0.4是修约数。
例12:将2.025按5间隔修约到3位有效数字。
邻近数为2.00和2.05。
2.00是0.05的40倍,2.05是0.05的41倍,因而2.00是修约数。
(3)负数修约时,先将它的绝对值进行修约,然后在修约值前加上负号。
(4)不许对同一个数进行连续修约。
四、实际应用例13:现对用雷氏夹膨胀测定仪(最小刻度0.5mm)测得的两组水泥安定属加法运算,计算结果的(末)应为0.5,修约间隔为0.5。
第一组平均值为4.75,邻近数为4.5(9倍)和5.0(10倍),取5.0;第二组平均值为5.25,邻近数为5.0(10倍)和5.5(11倍),取5.0。
例14:用砖用卡尺(分度值0.5mm)测定某烧结多孔砖的外观尺寸过程如下:因为砖用卡尺的分度值为0.5mm,故长宽高平均值修约间隔取0.5mm。
又因为砖表面有缺损或凸出现象,各人每次测量都不会得出相同数据,故标准把最终测量结果的修约间隔放宽至1mm。
例15:用100kg磅秤(最小刻度50g)和5L容量筒测定砼拌合物表观密度过程如下:为降低试验误差,首先用15kg电子秤(最小显示值5g)和500mm钢直尺(最小刻度0.5mm)对容量筒进行校准,结果如下:筒质量1.115kg,筒内径185.5mm,筒净高186.5mm。
V=185.52×3.1416×186.5÷4=5.0403×10-3(m3)V为乘法运算,π取5位有效数字,因m2为4位有效数字,故V取5位有效数字;(m2-m1)为减法运算,其结果需代入下一步运算,故取5位有效数字。
本试验系统误差主要由磅秤和试验人员产生的,由容量筒质量和容积引起的误差可忽略不计。
经综合评估,砼表观密度的修约间隔取10kg/m3。
例16:试对下列两根钢筋原材拉伸性能作出评价因液压万能试验机荷载读取值一般为3位有效数字,故钢筋的计算截面积取4位有效数字,钢筋直径取公称直径(如16、18),π取3.1416(5位有效数字)。
本例使用WE-300型万能试验机拉伸钢筋,Φ16选用0-150KN(分度值0.5KN)度盘,Φ18选用0-300KN(分度值1KN)度盘,其均在有效量程20-80%范围内;测量伸长率选用500mm(最小刻度0.5mm)钢直尺。
由于试验设备、操作环境、检测人员和试验方法均影响钢筋原材拉伸性能试验的结果,其系统误差的来源较复杂,标准规定强度的修约间隔取5Mpa,伸长率的修约间隔取0.5%。
五、结束语本试验中心遵循的建筑材料试验数据处理原则如下:1、不准使用精度低于要求精度的测量设备,测量值应该读取刻度值,当示值处于两条刻度线之间时,应以最靠近的刻度值作为示值。
2、有效数字的截取应符合近似数的运算规则,不得随意增加或减少。
3、读取和计算的试验数据均存在各种修约间隔,其大小由测量仪器的最小刻度或系统误差决定。
在修约间隔整数倍的一系列数中,如果有一个数最接近拟修约数,这个数就是修约数;如果有连续的两个数同等地接近拟修约数,为修约间隔偶数倍的数是修约数。
参考文献[1]计量认证/审查认可(验收)评审准则宣贯指南中国计量出版社2001[2]GB/T1346-2001《水泥标准稠度用水量、凝结时间、安定性检验方法》[3]GB/T2542-2003《砌墙砖试验方法》[4]GB/T50080-2002《普通混凝土拌合物性能试验方法标准》[5]GB/T228-2002《金属材料室温拉伸试验方法》[6]GB13013-91《钢筋混凝土用热轧光圆钢筋》[7]GB1499-1998《钢筋混凝土用热轧带肋钢筋》试验检测数据处理第一节数字的修约规则一、育效数字在测量工作中,由于测量结果总会有误差,因此表示测量结果的位数不宜大多,也不宜太少,大多容易使人误认为测量精度很高,太少则会损失精度。
测量过程中,由于受到一系列不可控制和不可避免的主观和客观因素的影响,所获得的测量值必定含有误差,即获得的测量值仅仅是被测量的近似值。
另一方面,在数据处理过程中引人的诸如п、21/2等一些常量,在大多数情况下,是以无穷小数形式的元理数来表示,这就需要确定一项原则,将测得的或计算的数截取到所需的位数。
认为在一个数值中小数点后面的位数愈多,这个数直就愈准确;或者在计算中,保留的位数愈多,这个数值就愈准确的想法都是错误的,第一种想法的错误在于没有弄清楚小数点的位置不是决定准确与否的标准,而仅与所用计量单位的大小有关。
如长度为21.3mm与0.O213m,其准确程度完全相同;第二种想法的错误在于不了解所有测量,由于仪器和人们的感官只能做到一定的准确程度。
这个准确程度一方面决定于所用仪器刻度的精细程度;另一方面也与所用方法有关。
因此在计算结果中,无论取多少位数都不可能把准确程度增加到超过测量误差所允许的范围。
反之,表示一个数值时,如果书写的位数过少,即数值所取的有效位数少于实际所能达到的精度,不能把已经达到的精度表示出来,也是错误的。
例如,不考虑测量误差,单从有效数字来考虑,在数学上23与23.00 两个数是相等的。
而作为表示测量结果的数值,两者相差是很悬殊的。
用23表示的测量结果,其误差可能为土0.5;而23.00表示的测量结果,其误差可能是土0.005。
再如,1和0.1在数值上相差10倍,单从数值上看两数是不等的,而作为测量结果可能因所用单位不同,所表示的测量结果和所达到的精度是相同的。
因此,在对测量数据的处理中,掌握有效数字的有关知识是十分重要的。
有效数字的概念可表述为:由数字组成的一个数,除最末一位数字是不确切值或可疑值外,其它数字皆为可靠值或确切值,则组成该数的所有数字包括未位数字称为有效数字,除有效数字外其余数字为多余数字。
对于“0“这个数字,它在数中的位置不同,可能是有效数字,也可能是多余数字。
整数前面的“0”无意义,是多余数字。
对纯小数,在小数点后,数字前的“0”只起定位,决定数量级的作用(相当于所取的测量单位不同),所以,也是多余数字。
处于数中间位置的“0”是有效数字。
处于数后面位置的“0”是否算有效数字可分三种情况:(1)数后面的“0”,若把多余数字的”0”用10的乘幂来表示,使其与有效数字分开,这样在10的乘幂前面所有数字包括“0”皆为有效数字;(2)作为测量结果并注明误差值的数值,其表示的数值等于或大于误差值的所有数字,包括“0”皆为有效数字;(3)上面两种情况外的数后面的“0”则很难判断是有效数字还是多余数字,因此,应避免采用这种不确切的表示方法。