检测数据修约处理.ppt
- 格式：ppt
- 大小：559.00 KB
- 文档页数：28
下载文档原格式
合集下载
实验室数据数值修约培训PPT
我们把通过直读获得的准 确数字叫做可靠数字；把 通过估读得到的那部分数 字叫做存疑数字。把测量 结果中能够反映被测量大 小的带有一位存疑数字的
全部数字叫有效数字
有效数字中“0”的意义
1.是作为数字定位
如：在0.312中，小数点前面的 “0”是定位用的，它有3位有 效数字；在0.012中，“1”前 面的2个“0”是定位用的，它 有2位有效数字
全为零则进1
•若被舍弃的数字包括几位数字时，不得对该 数字进行连续修约，而应根据以上各条只做1 次处理。
举例：
1）逢4舍去6必进 如：8.4444（修约保留3位小数）=8.444； 8.4446（修约保留3位小数）=8.445 2） 5后有数进上去 如：8.44451（修约保留3位小数）=8.445 3）5前是奇进上去 如：8.44350（修约保留3位小数）=8.444 4）5前是偶不要进 如：8.44450（修约保留3位小数）=8.444 5）计算当中不修约，修约要在计算尽。 如：修约保留3位小数计算：0.4444 0.4446 0.44451 0.44350 0.44450 的平均值 （0.4444+0.4446+0.44451+0.44350+0.44450）/5=2.22151/5=0.44302=0.443 正确修约 （0.444+0.445+0.445+0.444+0.444）/5=2.222/5=0.4444=0.444 错误修约 （0.4444+0.4446+0.44451+0.44350+0.44450）/5=2.22151/5=2.222/5=0.4444=0.444 错误修约
≤10.0 ≤10.0
练习：
7、实验室数据修约
实验室数据修约、测定结果规定 以及原始记录的填写
实验室数字修约规则
四舍六入五单双发
⑴在拟舍弃的数字中若左边第一位数字小于5（不含5）时，则舍弃。 例：18.2323修约到一位，修约后为18.2 ⑵在拟舍弃的数字中若左边第一位数字大于5（不含5）时，则进一。 例：18.2723修约到一位，修约后为18.3 ⑶在拟舍弃的数字中若左边第一位数字等于5，其右边的数字并非全部是零时，则 进一 例：18.65003修约到一位，修约后为18.7
c. 分光光度计吸光度一般记录到小数点后三位；分光光度计最佳测量范围 是0.1-0.8ABS
测定结果的表示
二、 如分析标准中有规定测定结果的表示方法，则按照方法中的规 定进行报告，如：
a. HJ 636-2012小数点后两位；当大于等于1.00mg/L时，保留三 位有效数字。
b. HJ 637-2012石油类和动植物油的分析标准中规定测定结果小于 10mg/L时，保留小数点后两位；当测定结果大于等于10mg/L时， 保留三位有效数字。
实验室数字修约规则
⑷在拟舍弃的数字中若左边第一位数字等于5，其右边的数字全部是零时 ，所拟保留的末位数字若为奇数则进一，若为偶数（含0）则不进 例：18.5500 修约到一位，修约后为18.6 例：18.6500 修约到一位，修约后为18.6 例：18.0500 修约到一位，修约后为18.0 ⑸拟舍弃的数字，若为两位以上数字时不得连续进 行多次修约，应根据所拟舍弃的数字中左边第一位数 字的大小，按上述规则一次修约出结果 例：18.14546修约到一位，正确修约后为18.1
测定结果的表示
有效数字：最末一位数字是不确切值或可疑值外，其它数字皆为可 靠值或由数字组成的一个数，除确切值，则组成该数的所有数字包 括末位数字称为有效数字，除有效数字外其余数字为多余数字。 测定结果的单位应采用中华人民共和国法定计量单位； 检测项目浓度结果以mg/L、mg/m3表示 ；特殊项目除外（如环境 空中苯并芘，以执行标准为准）。
实验室数字修约规则
四舍六入五单双发
⑴在拟舍弃的数字中若左边第一位数字小于5（不含5）时，则舍弃。 例：18.2323修约到一位，修约后为18.2 ⑵在拟舍弃的数字中若左边第一位数字大于5（不含5）时，则进一。 例：18.2723修约到一位，修约后为18.3 ⑶在拟舍弃的数字中若左边第一位数字等于5，其右边的数字并非全部是零时，则 进一 例：18.65003修约到一位，修约后为18.7
c. 分光光度计吸光度一般记录到小数点后三位；分光光度计最佳测量范围 是0.1-0.8ABS
测定结果的表示
二、 如分析标准中有规定测定结果的表示方法，则按照方法中的规 定进行报告，如：
a. HJ 636-2012小数点后两位；当大于等于1.00mg/L时，保留三 位有效数字。
b. HJ 637-2012石油类和动植物油的分析标准中规定测定结果小于 10mg/L时，保留小数点后两位；当测定结果大于等于10mg/L时， 保留三位有效数字。
实验室数字修约规则
⑷在拟舍弃的数字中若左边第一位数字等于5，其右边的数字全部是零时 ，所拟保留的末位数字若为奇数则进一，若为偶数（含0）则不进 例：18.5500 修约到一位，修约后为18.6 例：18.6500 修约到一位，修约后为18.6 例：18.0500 修约到一位，修约后为18.0 ⑸拟舍弃的数字，若为两位以上数字时不得连续进 行多次修约，应根据所拟舍弃的数字中左边第一位数 字的大小，按上述规则一次修约出结果 例：18.14546修约到一位，正确修约后为18.1
测定结果的表示
有效数字：最末一位数字是不确切值或可疑值外，其它数字皆为可 靠值或由数字组成的一个数，除确切值，则组成该数的所有数字包 括末位数字称为有效数字，除有效数字外其余数字为多余数字。 测定结果的单位应采用中华人民共和国法定计量单位； 检测项目浓度结果以mg/L、mg/m3表示 ；特殊项目除外（如环境 空中苯并芘，以执行标准为准）。
GBT8170-2008 数据修约规则与极限数值的标示和判定(东锦内部培训课件)PPT
3.4.2 0.2单位修约 单位修约 0.2单位修约是指按指定修约间隔对拟修约的数值 单位修约是指按指定修约间隔对拟修约的数值 0.2单位进行的修约。 单位进行的修约。 单位进行的修约 0.2单位修约方法如下：将拟修约数值 乘以 ，按 单位修约方法如下： 乘以5， 单位修约方法如下 将拟修约数值X乘以 指定修约间隔对5X依 的规则修约 所得数值(5X 的规则修约， 指定修约间隔对 依3.2的规则修约，所得数值 修约值)再除以 再除以5。 修约值 再除以 。
计算法则
在计算中， 在计算中，其有效位数应根据其他数值 最少有效位数而定。 的最少有效位数而定。
加减运算
应以各数中有效数字末位数的数位最高者为准 应以各数中有效数字末位数的数位最高者为准 小数即以小数部分位数最少者为准）， ），其余数 （小数即以小数部分位数最少者为准），其余数 均比该数向右多保留一位有效数字 向右多保留一位有效数字。 均比该数向右多保留一位有效数字。
3.1确定修约间隔 确定修约间隔 a）指定修约间隔为 -n（n为正整数），或指明将数值 为正整数）， ）指定修约间隔为10 为正整数），或指明将数值 修约到n位小数 位小数； 修约到 位小数； b）指定定修约间隔为 ，或指明将数值修约到个数位； ）指定定修约间隔为1，或指明将数值修约到个数位； c）指定修约间隔为 n（n为正整数），或指明将数值 为正整数）， ）指定修约间隔为10 为正整数），或指明将数值 修约到10 数位，或指明将数值修约到“ 修约到 n数位，或指明将数值修约到“十”、“百”、 数位。 “千”……数位。 数位
4.3.3修约值比较法 修约值比较法 4.3.3.1将测定值或其计算值进行修约，修约数位应 将测定值或其计算值进行修约， 将测定值或其计算值进行修约 与规定的极限数值数位一致。 与规定的极限数值数位一致。 当测试或计算精度允许时，应先将获得的数值按指 当测试或计算精度允许时， 定的修约数位多一位或几位报出，然后按3.2的程序 定的修约数位多一位或几位报出，然后按 的程序 修约至规定的数位。 修约至规定的数位。 4.3.3.2将修约后的数值与规定的极限数值进行比较， 将修约后的数值与规定的极限数值进行比较， 将修约后的数值与规定的极限数值进行比较 只要超出极限数值规定的范围（ 只要超出极限数值规定的范围（不论超出程度大 ），都判定为不符合要求 都判定为不符合要求。 小），都判定为不符合要求。 示例见下表: 示例见下表
测试与检测的数值修约规则与误差
i
• 正态分布具有4个重要特性，分别为： • 单峰性：小误差多而集中，形成一个峰值。该值出
现在δ x=0处，即真值出现的概率最大。
• 对称性：正负误差出现的概率相同。 • 有界性：|3 | 为误差界限。 •__ 抵偿性：正负误差具有抵消性。当 n→∞时, _ x→0 ， x → x0 。因次，对随机误差的处理方法 是采取多次测量，取算术平均值作为测量结果， 以减小随机误差，提高测量精度。
• 5.2 0.2单位修约 • 将拟修约数值乘以5，按指定数位依第3章规则修约，所 得数值再除以5。 • 例如:将下列数字修约到"百"数位的0.2单位（或修约间 隔为20） • 拟修约数值 乘5 5A修约值 A修约值 • （A ） （5A）（修约间隔为100（修约间隔为20） • 830 4150 4200 840 • 842 4210 4200 840 • -930 -4650 -4600 -920
结构测试与检测的 数值修约与误差
A.数值修约规则
• 适用范围：
科学技术与生产活动中试验测定和计算 中的各种数值修约。（特殊规定除外）。
1. 术语
• 1.1 修约间隔 它是指确定修约保留位数的一种方式。修约间 隔的数值一经确定，修约值即应为该数值的整数 倍。 • 例l：如指定修约间隔为0.1，修约值即应在0.1的 整数倍中选取，相当于将数值修约到一位小数。 • 例2：如指定修约间隔为100，修约值即应在100的 整数倍中选取，相当于将数值修约到"百"数位。
• 注：
• 1.试验记录中有效位的选择： • （1） 按仪器的最小分度值来读数； • （2） 对需要进一步运算的数值，常在最小分度值再估读一位。2. 计算过程中有效位的选择 • （1） 加减：以小数部分位数最少的为准，其它修约比最少的多 一位； • 如：50.155+3.086+1.4+0.3681=50.16+3.09+1.4+0.37=55.19 （2）乘除：以有效位数最少的为准，其它修约比它多一位； • 如：13.525×0.0112（3位有效数字） ×1.9726=13.52×0.0112×1.937=0.3074（4位） （3）开方和乘方：原来有几位有效数字，结果即是几位，如还要 多加运算，则多保留一位。 • 如：4.52=20.25=20，（3.46开平方）=1.860=1.86。 （4）常数，如圆周率，以有限有效的原则。
• 正态分布具有4个重要特性，分别为： • 单峰性：小误差多而集中，形成一个峰值。该值出
现在δ x=0处，即真值出现的概率最大。
• 对称性：正负误差出现的概率相同。 • 有界性：|3 | 为误差界限。 •__ 抵偿性：正负误差具有抵消性。当 n→∞时, _ x→0 ， x → x0 。因次，对随机误差的处理方法 是采取多次测量，取算术平均值作为测量结果， 以减小随机误差，提高测量精度。
• 5.2 0.2单位修约 • 将拟修约数值乘以5，按指定数位依第3章规则修约，所 得数值再除以5。 • 例如:将下列数字修约到"百"数位的0.2单位（或修约间 隔为20） • 拟修约数值 乘5 5A修约值 A修约值 • （A ） （5A）（修约间隔为100（修约间隔为20） • 830 4150 4200 840 • 842 4210 4200 840 • -930 -4650 -4600 -920
结构测试与检测的 数值修约与误差
A.数值修约规则
• 适用范围：
科学技术与生产活动中试验测定和计算 中的各种数值修约。（特殊规定除外）。
1. 术语
• 1.1 修约间隔 它是指确定修约保留位数的一种方式。修约间 隔的数值一经确定，修约值即应为该数值的整数 倍。 • 例l：如指定修约间隔为0.1，修约值即应在0.1的 整数倍中选取，相当于将数值修约到一位小数。 • 例2：如指定修约间隔为100，修约值即应在100的 整数倍中选取，相当于将数值修约到"百"数位。
• 注：
• 1.试验记录中有效位的选择： • （1） 按仪器的最小分度值来读数； • （2） 对需要进一步运算的数值，常在最小分度值再估读一位。2. 计算过程中有效位的选择 • （1） 加减：以小数部分位数最少的为准，其它修约比最少的多 一位； • 如：50.155+3.086+1.4+0.3681=50.16+3.09+1.4+0.37=55.19 （2）乘除：以有效位数最少的为准，其它修约比它多一位； • 如：13.525×0.0112（3位有效数字） ×1.9726=13.52×0.0112×1.937=0.3074（4位） （3）开方和乘方：原来有几位有效数字，结果即是几位，如还要 多加运算，则多保留一位。 • 如：4.52=20.25=20，（3.46开平方）=1.860=1.86。 （4）常数，如圆周率，以有限有效的原则。
检验数据修约规则
检验数据修约规则1.目的为规范有效数字和数值的修约及其运算,使分析检验结果真实准确。
2.适用范围质量检测部门、各车间化验室分析检验工作中除生物检定统计法外的各种测量或计算而得的数值。
3.职责质量检测部门、车间化验室检验人员负责本操作规程的实施,质量检测中心负责人和管理人员负责监督检查。
4.有效数字的基本概念有效数字指在分析检验工作中所能得到有实际意义的数值。
其最后一位数字欠准是允许的,这种由可靠数字和最后一位不准确数字组成的数值,即为有效数字。
最后一位数字的欠准程度通常只能是上下差1单位。
有效数字的定位是指确定欠准数字的位置。
这个位置确定后,其后面的数字均为无效数字。
欠准数字的位置可以是十进位的任何位数,用10来表示:n可以是正整数,如n=1、101=10,n=2、102=100；n也可以是负数,如n=-1、10-1=-0.1,n=-2、10-2=-0.01。
4.1.有效位数在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×103。
在其他十进位数中,有效数字系指从非零数字最后一位向右数而得到的位数。
例如3.2、0.32、0.032和0.0032均为两位有效位数,0.0320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。
非连续型数值(如个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位:常数Π、e和系数等数值的有效位数也可视为是无限多位。
例如含量测定项下“每1ml的xxx滴定液(0.1mol/L)”中的“1”为个数,“0.1”为名义浓度,其有效位数均为无限多位;规格项下的“0.3g”或“1ml，25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。
试验数据的修约
试验数据读取运算修约评定一、有效数字（末）的概念：任何一个数最末一位数字所对应的单位量值。
有效数字的概念：当近似数的绝对误差的模小于0.5（末）时，从左边的第一个非零数字算起，直至最末一位数字为止的所有数字。
例1：将e=2.71828……截取到百分位得近似数 2.72，则此时引起的误差绝对值为|2.72-2.71828……|=0.00172……。
2.72的（末）为0.01，因为0.5（末）=0.5×0.01=0.005>0.00172……，所以称2.72为三位有效数字。
同理：2.718为四位有效数字；2.7182不是五位有效数字。
例2：用分度值为1mm的钢直尺测出某混凝土试块边长为150mm。
150的（末）为1mm，绝对误差的模小于0.5（末）=0.5×1=0.5mm，为三位有效数字，即该测量值误差小于0.5mm。
例3：用最小刻度为0.02mm的游标卡尺量出某Φ12钢筋直径为11.96mm。
11.96的（末）为0.02mm，绝对误差的模小于0.5（末）=0.5×0.02=0.01mm，为四位有效数字，即该测量值误差小于0.01mm。
例4：用分度值为0.5mm的砖用卡尺测量出某块普通砖高度为52.5mm。
52.5的（末）为0.5mm，绝对误差的模小于0.5（末）=0.5×0.5=0.25mm，为三位有效数字，即该测量值误差小于0.25mm。
从上可知，测量结果的有效位数同所用测量仪器的最小刻度值（末）密切相关，不同的有效数代表不同的检测精度，如20.10mm比20.1mm检测精度要高。
所以，数字右边的“0”不能随意取舍，因为这些“0”都是有效数字。
二、近似数运算1、加减法运算以参与运算的各数中（末）最大的数为准，其余的数均比它多保留一位，多余位数应舍去。
计算结果的（末），应与参与运算的数中（末）最大的那个数相同。
若计算结果尚需参与下一步运算，则可多保留一位。
数据修约
E、负数修约时，先将其绝对值按以上规则进行秀 修约，然后将所得结果前面加上负号。 如：对于修约间隔为10 -355 →-36 ×10也可写作-360； -325 →-32 ×10也可写作-320； 如：对于保留三位小数，或修约间隔为10-3 -0.0365 →-36 ×10-3也可写作-0.036 -0.0355 →-36 ×10-3也可写作-0.036
全数值比较法和修约值比较法的举例说明
极限值 测定值或计算值 1349 1351 1400 1402 0.452 0.500 0.549 0.551 9.89 9.85 10.10 10.16 1.151 1.200 1.649 1.651 按全数值比较 法判定 不符合 不符合 符合 符合 符合 符合 不符合 不符合 不符合 不符合 符合 不符合 不符合 符合 不符合 不符合 修约值 13×100 14×100 14×100 14×100 0.5 0.5 0.5 0.6 9.9 9.8 10.1 10.2 1.2 1.2 1.6 1.7 按修约值比 较法判定 不符合 符合 符合 符合 符合 符合 符合 不符合 符合 不符合 符合 不符合 符合 符合 符合 不符合
D、拟舍去数值的最左一位数字为5，且其后无数 字或全为0时，若保留的末位数字为奇数则进一， 即保留的末位数字加1；若保留的末位数字为偶数 ，则舍去。 如：对于修约间隔为0.1 1.050→10×10-1,也可写作1.0; 0.35 →4 ×10-2,也可写作0.4; 如：对于修约间隔为1000（或10-3） 2500 → 2×103,也可写作 2 000； 3500 → 4×103,也可写作 4 000；
公路工程检测技术课件02试验检测数据处理
第二章试验检测数据处理❖知识目标❖1、理解试验数据的检验方法❖2、学会试验数据的修约规则❖3、学会用运统计特与分布分析数据❖4、学会对可疑数据的进行取舍❖技能目标❖1、学会用数理统计法整理试验数据❖2、学会用拉依达法、肖维法则、格拉布斯法的取舍数据。
第二章试验检测数据处理❖第一节抽样检验❖第二节数据的修约规则❖第三节数据的统计特征与分布❖第四节可疑数据的取舍方法❖第五节质量数据的统计方法第二章试验检测数据处理❖工程质量的评价是以试验检测数据为依据。
❖试验检测采集得到的原始数据类多量大，有时杂乱无章，甚至还有错误。
❖必须对原始数据进行分析处理才能得到可靠的试验检测结果。
❖本章以数理统计与概率论为基础，介绍试验检测数据的处理方法。
第一节抽样检验学习指导❖学完本节后你会：❖理解总体、个体、样本的含义和关系❖检验的目的❖抽样检验的意义、条件第一节抽样检验❖一、总体与样本❖二、检验的主要目的❖三、抽样检验的意义❖三、抽样检验的条件一、总体与样本❖1．总体：称母体是统计分析中所要研究对象的全体。
❖2．个体：组成总体的每个单元称个体。
从总体中抽取一部分个体为样本。
❖如：一批沥青有100桶，抽200个样品称样本。
每一桶称个体。
相互关系见图2-1总体与样本的关系总体与样本的关系总体样本数据推测二、检验的主要目❖将某种方法检验物品的结果与质量判定标准比较，判断出各个物品是优良还是不合格品，从而推断出是不是合格批。
三、抽样检验的意义❖在产品检验中，全数检验用的很少，它适用于少量的仪器和产品。
❖在工程上，由于工序多，过程复杂，质量波动大，金额高，检验项目多，采用抽样检验。
❖通过部分样品，推断整批产品是否合格。
四、抽样检验的条件❖（一）要明确批的划分❖（二）必须抽取代表性的样本❖（三）要明确检验的标准❖（四）要有统一的检测试验方法第二节数据修约的规则学习指导❖学完本节后你会：❖对试验数据进行取舍❖掌握数据修约的规则第二节数据的修约规则❖一、概述❖工程质量控制、评价是以数据为依据，质量控制中以数据说话，用数据来反映工序质量状况及判断质量效果。
试验数据处理
试验数据处理
1
一、 数据修约
根据测量、计算的目的和要求,要对
数据进行数值修约,数值修约内容包括三
个部分,即修约间隔、有效位数、取舍规
则.
2
一、 数据修约
•
在进行具体的数字运算前，按照一
定的规则确定一致的位数，然后舍去某 些数字后面多余的尾数的过程被称为数 字修约，指导数字修约的具体规则被称 为数字修约规则。
用的零)的个数。
20
有效位数
• 例 1: 35000,若有两个无效零，则为三位有效 位数，应写为350x102，若有三个无效零，则
为两位有效位数，应写为35x103
例 2: 3 .2 ,0 .32,0 .032,0 .0032均为两位 有效位数;0.0320为三位有效位数。 例 3: 12.490为五位有效位数;10.00为四位有 效位数。
6
•
1、修 约 间 隔
• 例如：
• 分度值为0.2℃、0.5℃的液体玻璃温度 计；分度值为0.02mm、0.05mm卡尺； 2×10n、5×10n的指针式仪表、天平等。
7
1间隔的修约方法
• 1）当拟舍弃数字（有效数字后）小于5时则舍
弃，如3.749，保留一位小数，要修约为3.7；
• 2）当拟舍弃数字大于5时则向前位进1，如
16
以0.5修约间隔修约实例
• 5间隔的修约中相邻两修约数的末位非0即5， 在0→5间隔中，其平均值必然是25（×10n，n 为正或负整数）；5→0间隔中，其平均值必然
是75（×10n）。
• 因此，更简捷的方法是：欲修约数末两位 为75时取间隔的大值，如上例86.75，取87.0； 若欲修约数末两位为25，则取间隔中的小值， 如625（修约间隔为5）修约为620。
1
一、 数据修约
根据测量、计算的目的和要求,要对
数据进行数值修约,数值修约内容包括三
个部分,即修约间隔、有效位数、取舍规
则.
2
一、 数据修约
•
在进行具体的数字运算前，按照一
定的规则确定一致的位数，然后舍去某 些数字后面多余的尾数的过程被称为数 字修约，指导数字修约的具体规则被称 为数字修约规则。
用的零)的个数。
20
有效位数
• 例 1: 35000,若有两个无效零，则为三位有效 位数，应写为350x102，若有三个无效零，则
为两位有效位数，应写为35x103
例 2: 3 .2 ,0 .32,0 .032,0 .0032均为两位 有效位数;0.0320为三位有效位数。 例 3: 12.490为五位有效位数;10.00为四位有 效位数。
6
•
1、修 约 间 隔
• 例如：
• 分度值为0.2℃、0.5℃的液体玻璃温度 计；分度值为0.02mm、0.05mm卡尺； 2×10n、5×10n的指针式仪表、天平等。
7
1间隔的修约方法
• 1）当拟舍弃数字（有效数字后）小于5时则舍
弃，如3.749，保留一位小数，要修约为3.7；
• 2）当拟舍弃数字大于5时则向前位进1，如
16
以0.5修约间隔修约实例
• 5间隔的修约中相邻两修约数的末位非0即5， 在0→5间隔中，其平均值必然是25（×10n，n 为正或负整数）；5→0间隔中，其平均值必然
是75（×10n）。
• 因此，更简捷的方法是：欲修约数末两位 为75时取间隔的大值，如上例86.75，取87.0； 若欲修约数末两位为25，则取间隔中的小值， 如625（修约间隔为5）修约为620。
检测结果数值修约与有效数字保留
检测结果数值修约与有效数字保留1目的保证检测结果能够合理地反映测量精度。
2范围适用于大连环境事业部。
3规范性引用文件《地表水和污水监测技术规范》（HJ/T91-2002）《地下水环境监测技术规范》（HJ/T164-2004）《海洋监测规范》（GB17378.2-2007）《数值修约规则与极限数值的表示和判定》（GB/T8170-2008）4定义4.1有效数字所谓有效数字：具体地说，是指在分析工作中实际能够测量到的数字。
我们把通过直读获得的准确数字叫做可靠数字；把通过估读得到的那部分数字叫做存疑数字。
把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。
5内容5.1有效数字的判断5.1.1第一个非零数字前的零不是有效数字.5.1.2第一个非零数字以及之后的所有数字(包括零)都是有效数字.5.1.3当计算的数值为lg或者pH、pOH等对数时，由于小数点以前的部分只表示数量级，故有效数字位数仅由小数点后的数字决定。
例如lgx=9.04为2位有效数字，pH=7.355为三位有效数字。
5.1.4л等常数，具有无限位数的有效数字，在运算时可根据需要取适当的位数。
5.2有效数字的处理5.2.1数据的修约应采用“四舍六入五成双”的原则。
5.2.2拟舍弃数字的最左一位数字小于5，则舍去，保留其余各位数字不变。
5.2.3拟舍弃数字的最左一位数字大于5，则进一，即保留数字的末位数字加1。
5.2.4拟舍弃数字的最左一位数字是5，且其后有非0数字时进一，即保留数字的末位数字加1。
5.2.5拟舍弃数字的最左一位数字是5，且其后无数字或者皆为0时，若保留的末位数字为奇数（1，3，5，7，9）则进一；若所保留的末位数字为偶数（0，2，4，6，8），则舍去。
5.2.6有效数字的修约是按照“四舍六入五成双”的原则一次修约的结果，不得多次按“四舍六入五成双”的原则连续修约。
如：97.46保留2位有效数字正确的做法：97.46→97不正确的做法：97.46→97.5→985.3有效数字运算规则5.3.1许多数值相加减时，每个数及它们的和或差的有效数字保留，以小数点后面有效数字位数最少的数据为准。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
乘除运算
计算结果的位数，应与参加运算数据里有效数字最小的位数 相同。
例：0.160*2.6=0.4160=0.42
平方或开方运算
运算结果与原来数据里有效位数相同。
例：1.42=1.96 =2.0 1.233=1.5129=1.51
对数运算
所取对数位数应与真数有效数字位数相等。
例：lg12.3=1.09
四舍六入 逢五取偶
• 拟舍弃数字最左一位数字小于5，则舍去，保留其余各位 数字不变
例1：将12.1498修约到个位数（即 修约间隔为1），得12；将12.1498 修约到1位小数（即 修约间隔为0.1），得12.1 。
• 拟舍弃数字最左一位数字大于5 ，或者是5，而其后跟有 并非全部为0的数字时，则进一，即保留的末位数字加1。
2、在具体实施中，有时测试与计算部门先将获得数值按 指定的修约位数多一位或几位报出，而后由其他部门判 定。为避免产生连续修约的错误，应按下述步骤进行。
报出数值最右的非零数字为5时，应在数值后面加 “（＋）”或“（－）”或不加符号，以分别表明已进行 过舍、进或未舍未进。
例：16.50（＋）表示实际值大于16.50，经修约舍弃成为16.50； 16.50（－）表示实际值小于16.50，经修约进一成为16.50。
修约方法：将拟修约数值乘以5，按指定数位依数字修约规则修约，所 得数值再除以5。
例：将下列数字修约到 “百”数位的0.2单位（或修约间隔为20）
拟修约数值X
5X
5X修约值
X修约值
（修约间隔为100）ห้องสมุดไป่ตู้（修约间隔为20 ）
830
4150
4200
840
842
4210
4200
840
832
4160
4200
840
-15
16.5203 16.5（＋）
17
-17.5000 -17.5
-18
0.5单位修约及0.2单位修约
0.5单位修约（半个单位修约）
指修约间隔为指定数位的0.5单位，即修约到指定数 位的0.5单位。
修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，所 得数值再除以2。
例：将下列数字修约到个数位的0.5单位
注：经数值修约后的数值称为修约值。
10.41
10.4
10.5
原始数值
数值修约
修约值
×
有效数字
该数值从其第一个不是零的数字起到最末一位数的全部 数字即为有效数字。
例1：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有 效位数。
例2：12.490为五位有效位数；10.00为四位有效位数。
-930
-4650
-4600
-920
计算法则
——参考上海市计量检定人员 计量基础知识培训教材
加减运算
计算结果的末位数位，应与参加运算数据中的末位数位最大 的位数相同。 对带小数点的运算，计算结果小数点后保留的位数应与参加 运算数据里小数点后末位最左的位数相同。
例：1.5+0.42=1.92=1.9
例2：将1268修约到“百”数位，得1300。 例3：将10.502修约到个数位，得11。
拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，
若所保留的末位数字为奇数（1，3，5，7，9）则进一，
若所保留的末位数字为偶数（2，4，6，8，0）则舍弃。
（逢五取偶）
例1：1.050
1位小数，得1.0 。
检测数据修约处理
GB/T8170-2008 2015.04.14
目录
➢ 术语 ➢ 确定修约位数的表达方式 ➢ 进舍规则 ➢ 不连续修约 ➢ 0.5单位修约及0.2单位修约 ➢ 计算法则(参考上海市计量检定人员计量基础知识培训教材)
术语
数值修约
通过省略原数值的最后若干位数字，调整所保留的末位 数字，使最后所得到的值最接近原数值的过程。
谢谢
9、春去春又回，新桃换旧符。在那桃花盛开的地方，在这醉人芬芳的季节，愿你生活像春天一样阳光，心情像桃花一样美丽，日子像桃子一样甜蜜。 2020/12/112020/12/11Friday, December 11, 2020
10、人的志向通常和他们的能力成正比例。2020/12/112020/12/112020/12/1112/11/2020 12:18:55 PM 11、夫学须志也，才须学也，非学无以广才，非志无以成学。2020/12/112020/12/112020/12/11Dec-2011-Dec-20 12、越是无能的人，越喜欢挑剔别人的错儿。2020/12/112020/12/112020/12/11Friday, December 11, 2020 13、志不立，天下无可成之事。2020/12/112020/12/112020/12/112020/12/1112/11/2020
例2：0.35 修约到1为小数，得0.4 。
负数修约时，先将它的绝对值按数字进舍规则（四舍六入 逢五取偶
例：将下列数字修约到三位小数
拟修约数值
-0.0365
-0.036
绝对值
0.0365
不连续修约
1、拟修约数字应在确定修约位数后一次修约获得结果，而 不得多次按进舍规则连续修约。
例如：修约15.4546，修约间隔为1 正确的做法： 15.4546→15 不正确的做法： 15.4546→15.455→15.46→15.5→16
拟修约数值X 60.25 60.38 60.28 -60.75
2X 120.50 120.76 120.56 -121.50
2X修约值 120 121 121 -122
X修约值 60.0 60.5 60.5 -61.0
0.2单位修约
指修约间隔为指定数位的0.2单位，即修约到指定数 位的0.2单位。
例3：1.35cm =13.5 mm =0.0135m ，这三种表示法完全等效，均为三 位有效数字。
2200 √ 58600 √
2203 × 2210 × 58611× 58670 ×
确定修约位数的表达方式
确定修约位数的表达方式
指定数位(指定修约间隔)； 指定将数值修约成n位有效位数。
进舍规则
混合运算
先开方或乘方，并修约，再乘除，进行修约，最后进行 加减，并对结果进行修约。
乘除 注：以有效数位数最少的数据为准，其他的数据比他多保留一位小 数，然后进行乘除，最后进行修约。
加减 注：以小数位数最少的数据为准，其他的数据比他多保留一位小数，然后 进行加减，最后进行修约。
例：2π÷0.16
=2*3.14÷0.16 =39.25 =39
如果报出值需要进行修约，当拟舍弃数字的最左一位数字 为5而后面无数字或皆为零时，数值后面有(+)号者进一， 数值后面有(-)号者舍去，其他仍按数字修约规则进行。
例：将下列数字修约到个数位（报出值多留一位到一位小数）
。
实测值
报出值
15.4546 15.5（一）
15
-15.4546 -15.5(一)