数值修约规则与数值极限的表示和判定

  • 格式:doc
  • 大小:84.00 KB
  • 文档页数:8

下载文档原格式

  / 20
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

GB/T 8170-2008《数值修约规则与数值极限的表示和判定》

定西公路总段试验室

二O一O年十月

数值修约

一、数值修约的概念及意义

二、数值修约的基础知识

三、数值修约规则及注意事项

四、数值运算规则

一、数值修约的概念及意义

◆测量及测量结果

◆数值修约的概念及意义

1. 测量、测量结果

(1)测量、测量结果

•测量是以确定量值为目的的一组操作。量值是由一个数(值)乘以测量单位所表示的特定量的大小。

测量有间接和直接之分:直接测量的结果可直接测到而不必通过函数计算;而间接测量的结果需将直接测量的结果代入函数计算才能得到。

•由测量所得的赋予被测量的值称为测量结果。

例如,用分析天平称得一个试样的质量为1.1080g,1.1080g就是一个测量结果。•由测量与测量结果的概念可看出,测量结果可表示如下:

测量结果=数(值)×单位量值

•根据误差公理,测量总是存在误差的,测量结果只能是接近于测量真值的估计值,因而表示测量结果的数(值)是含有误差的数(值),

就是说,表示测量结果的的数值是一个近似值。

接上例结果,1.1080g就是一个测量结果。1.1080是数(值),克是单位量值。

1.1080表示该试样的近似值,其中1.108是准确的,最后一个0是有误差的,而且这个0是不能够舍弃的。如果测量结果是1.108g,则表示1.10是准确的,8是有误差的。在数学上1.108和1.1080是没有区别的,而在测量上是有很大区别的。以天平来说,1.1080g 是万分之一的天平,1.108g是千分之一的天平,二者之间相差一个数量级。

2. 数值修约的概念及意义

(1)数值修约的概念

•对某一表示测量结果的数值(拟修约数),根据保留位数的要求,将多余的数字进行取舍,按照一定的规则,选取一个近似数(修约数)来代替原来的数,这一过程称为数值修约。

•一般我们常用的四舍五入就是一个简单实用的修约,应用于实际生活中或不精确的测量数据中。而数值修约是将修约规则上升到规范并且精细化的修约方法。在测量结果或统计分析中应用。

•(2)数值修约的意义

•a.出于准确表达测量结果的需要。

•测量结果大都是通过间接测量得到的,间接测量的结果通常是通过计算得出的,其组成数字往往较多,但具体测量的精度是确定的,就是说表示合理表征测量结果的数字个数应是确定的,最终提供的测量结果应合理反映这一点,故此,通过对计算方法和直接测量得到的数据的分析,得到合理的保留位数,将多余的数字进行取舍以得到合理反映测量精度的测量结果,即进行数值修约就非常必要。另外,即使采用直接测量,有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约。

•b.在进行具体的数值计算前,对参加计算的数值进行修约,可简化计算,降低计算出错的机会。•如:4.78961×2.13×102.4387926=?

•若不先进行数值修约就直接计算,繁琐且容易出错。若在计算前先按数值修约规则进行修约,舍去多余参与计算的数值之中没有意义的数字,则计算会简单得多,计算也就不容易出错。

二、数值修约的基础知识

1. 有效数字

2 修约间隔

3.修约数位及确定修约位数的表达方式

1. 有效数字

1.1有效数字

•有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的(前后定位用的“0”除外)。

•我们来看前面的测量结果1.1080g,组成数字1、1、0、8、0都是实际测读到的,它们是表示试样质量大小的,因而都是有实际意义的。

•有效数字的前几位都是准确数字,只有最后一位是可疑数字。

•如前述的1.1080,前几位数字1、1、0、8都是称量读到的准确数字,而最后一位数字0则是在没有刻度的情况下估读出来的,是不准确的或者说可疑的。

•有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。

•例1:数值3.5,有两个有效数字,占有个位、十分位两个数位,因而有效数字位数为两位;

3.501有四个有效数字,占有个位、十分位、百分位等四个数位,因而是四位有效数字。

•测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测量的精密度有关。这也是有效数字实际意义的体现,是非常重要的体现。

•例如前述例子中,若测量结果为1.1080g,则表示测量值的误差在10-4量级上,天平的精度为万分之一;若测量结果为1.108g,则表示测量值的误差在10-3量级上,天平的精度为千分之一。

2.2 有效数字位数的确定原则

•由于有效数字的位数反映了测量结果的精确度,它直接与测量的精密度有关。因此,在科学实验和生产活动中正确记录有效数字,不能多写或少写,多写了不能正确反映测量精度,则该数据不真实,因而也就不可靠;少写损失测量精度度。另外,能够正确判定表示测量结果的数中那些数字是有效数字,确定有效数字位数就显得非常重要。这也是在计量认证过程中,有效数字位数的确定往往成为考核内容之一的原因。

•在确定有效数字位数时应遵循下列原则:

•(1)数值中数字1~9都是有效数字。

•(2)数字“0”在数值中所处的位置不同,起的作用也不同,可能是有效数字,也可能不是有效数字。判定如下:

•1)“0”在数字前,仅起定位作用,不是有效数字。

如,0.0257中,“2”前面的两个“0”均非有效数字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效数字。

•2)数值末尾的“0”属于有效数字。

如0.5000中,“5”后面的三个“0”均为有效数字;0.50中,“5”后面的一个“0”也是有效数字。

特例:见第4)条。

3)数值中夹在数字中间的“0”是有效数字。

如数值1. 008中的两个“0”是均是有效数字;数值8. 01中间的“0”也是有效数字。•4)以“0”结尾的正整数,“0”是不是有效数字不确定,应根据测试结果的准确度确定。

如3600,后面的两个“0”如果不指明测量准确度就不能确定是不是有效数字。

测量中遇到这种情况,最好根据实际测试结果的精确度确定有效数字的位数,有效数字用小数表示,把“0”用10的乘方表示。如将3600写成3.6×103表示此数有两位有效数字;写成3.60×103表示此数有三位有效数字;写成3.600×103表示此数有四位有效数字。

•试看下面各数据的有效数字位数:

•1.0008 43383 五位有效数字

•0.5000 20.76% 四位有效数字

•0.0257 154×10-10三位有效数字

•53 0.0070 二位有效数字

•0.02 2×10-10一位有效数字

•3600 100 有效数字位数不定

2.修约间隔

修约间隔又称修约区间或化整间隔,系确定修约保留位数的一种方式。修约间隔一般以k×10n (k=1,2,5;n为整数)的形式表示,将同一k值的修约间隔,简称为¡°k¡±间隔。

•修约间隔的数值一经确定,修约值即应为该数值的整数倍。

例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。

1.0239修约到0.01,为1.02,

1.02÷0.01=102(倍)

例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。

3623修约间隔为100,修约结果是3600,

3600÷100=36(倍)