数的定点表示和浮点表示

cloudseawang定点数与浮点数区别最近做HDR时，经常要用NV提供的16位纹理，它的说明书16位能达到24位的精度，就很奇怪？一直搞不懂浮点数的精度怎么算的？今天认真看了一下IEEE float point的标准，终于明白是什么了1. 什么是浮点数在计算机系统的发展过程中，曾经提出过多种方法表达实数。

典型的比如相对于浮点数的定点数（Fixed Point Number）。

在这种表达方式中，小数点固定的位于实数所有数字中间的某个位置。

货币的表达就可以使用这种方式，比如99.00 或者00.99 可以用于表达具有四位精度（Precision），小数点后有两位的货币值。

由于小数点位置固定，所以可以直接用四位数值来表达相应的数值。

SQL 中的NUMBER 数据类型就是利用定点数来定义的。

还有一种提议的表达方式为有理数表达方式，即用两个整数的比值来表达实数。

定点数表达法的缺点在于其形式过于僵硬，固定的小数点位置决定了固定位数的整数部分和小数部分，不利于同时表达特别大的数或者特别小的数。

最终，绝大多数现代的计算机系统采纳了所谓的浮点数表达方式。

这种表达方式利用科学计数法来表达实数，即用一个尾数（Mantissa ），一个基数（Base），一个指数（Exponent）以及一个表示正负的符号来表达实数。

比如123.45 用十进制科学计数法可以表达为1.2345 × 102 ，其中1.2345 为尾数，10 为基数，2 为指数。

浮点数利用指数达到了浮动小数点的效果，从而可以灵活地表达更大范围的实数。

提示: 尾数有时也称为有效数字（Significand）。

尾数实际上是有效数字的非正式说法。

同样的数值可以有多种浮点数表达方式，比如上面例子中的123.45 可以表达为12.345 ×101，0.12345 × 103 或者1.2345 × 102。

因为这种多样性，有必要对其加以规范化以达到统一表达的目标。

定点数与浮点数计算机处理的数值数据多数带有小数，小数点在计算机中通常有两种表示方法，一种是约定所有数值数据的小数点隐含在某一个固定位置上，称为定点表示法，简称定点数；另一种是小数点位置可以浮动，称为浮点表示法，简称浮点数。

1. 定点数表示法(fixed-point)所谓定点格式，即约定机器中所有数据的小数点位置是固定不变的。

在计算机中通常采用两种简单的约定：将小数点的位置固定在数据的最高位之前，或者是固定在最低位之后。

一般常称前者为定点小数，后者为定点整数。

定点小数是纯小数，约定的小数点位置在符号位之后、有效数值部分最高位之前。

若数据x 的形式为x = x0.x1x2…x n( 其中x0为符号位，x1～x n是数值的有效部分，也称为尾数，x1为最高有效位)，则在计算机中的表示形式为：一般说来，如果最末位x n = 1，前面各位都为0 ，则数的绝对值最小，即|x|mi n = 2-n。

如果各位均为1，则数的绝对值最大，即|x|ma x =1-2-n 。

所以定点小数的表示范围是：2- n ≤ | x| ≤ 1 - 2- n定点整数是纯整数，约定的小数点位置在有效数值部分最低位之后。

若数据x 的形式为x = x0x1x2…x n ( 其中x0为符号位，x1～x n是尾数，x n为最低有效位)，则在计算机中的表示形式为：定点整数的表示范围是：1≤ | x| ≤ 2n - 1当数据小于定点数能表示的最小值时，计算机将它们作0处理，称为下溢；大于定点数能表示的最大值时，计算机将无法表示，称为上溢，上溢和下溢统称为溢出。

计算机采用定点数表示时，对于既有整数又有小数的原始数据，需要设定一个比例因子，数据按其缩小成定点小数或扩大成定点整数再参加运算，运算结果，根据比例因子，还原成实际数值。

若比例因子选择不当，往往会使运算结果产生溢出或降低数据的有效精度。

用定点数进行运算处理的计算机被称为定点机。

2. 浮点数表示法(floating-point number)4与科学计数法相似，任意一个J进制数N，总可以写成N = J E × M式中M称为数N 的尾数(mantissa)，是一个纯小数；E为数N 的阶码(e x ponent)，是一个整数，J称为比例因子J E 的底数。

计算机处理的数值数据多数带有小数，小数点在计算机中通常有两种表示方法，一种是约定所有数值数据的小数点隐含在某一个固定位置上，称为定点表示法，简称定点数；另一种是小数点位置可以浮动，称为浮点表示法，简称浮点数。

1. 定点数表示法(fixed-point)所谓定点格式，即约定机器中所有数据的小数点位置是固定不变的。

在计算机中通常采用两种简单的约定：将小数点的位置固定在数据的最高位之前，或者是固定在最低位之后。

一般常称前者为定点小数，后者为定点整数。

定点小数是纯小数，约定的小数点位置在符号位之后、有效数值部分最高位之前。

若数据x的形式为x=x0.x1x2…xn(其中x0为符号位，x1～xn是数值的有效部分，也称为尾数，x1为最高有效位)，则在计算机中的表示形式为：一般说来，如果最末位xn= 1，前面各位都为0，则数的绝对值最小，即|x|min= 2-n。

如果各位均为1，则数的绝对值最大，即|x|max=1-2-n。

所以定点小数的表示范围是：2-n≤|x|≤1 -2-n定点整数是纯整数，约定的小数点位置在有效数值部分最低位之后。

若数据x的形式为x=x0x1x2…xn(其中x0为符号位，x1～xn是尾数，xn为最低有效位)，则在计算机中的表示形式为：定点整数的表示范围是：1≤|x|≤2n-1当数据小于定点数能表示的最小值时，计算机将它们作0处理，称为下溢；大于定点数能表示的最大值时，计算机将无法表示，称为上溢，上溢和下溢统称为溢出。

计算机采用定点数表示时，对于既有整数又有小数的原始数据，需要设定一个比例因子，数据按其缩小成定点小数或扩大成定点整数再参加运算，运算结果，根据比例因子，还原成实际数值。

若比例因子选择不当，往往会使运算结果产生溢出或降低数据的有效精度。

用定点数进行运算处理的计算机被称为定点机。

2. 浮点数表示法(floating-point number)与科学计数法相似，任意一个J进制数N，总可以写成N = J E×M式中M称为数N的尾数(mantissa)，是一个纯小数；E为数N的阶码(exponent)，是一个整数，J称为比例因子J E的底数。

数据的表示方法各类数据在计算机中的表示方法以及它们在计算机中的运算和处理方法是了解计算机在自动解题过程中数据信息的加工处理过程、掌握计算机硬件组成及整机工作原理的基础。

一、数制和数制转换1、数制相关知识数制是人们利用一组数字符号和进位规则表示数据大小的计算方法。

计算机处理的数据分为数值数据和非数值数据，计算机只能直接识别二进制数据，但人们在使用计算机时多用八、十、十六进制。

任意一个R进制数（N）R=X n-1X n-2...X1X0 X -1 X -2 (X)X-m，可以展开为：X n-1R n-1 +X n-2R n-2+···+X0R0 +X -1R-1 -（m-1）+···+X –(m-1)R--（m-1）+X-m R-m式中R是R进制的基数，R i为位权值，各位数字X i （-m<=I<=n-1）的取值范围是0~（R-1），计数规则是“逢R 进一”，基本因素是基数和位权值。

重点需要掌握的是：（1）不同数制的基数不同，所使用的数字取值范围也不同；（2）任意进制数转换成十进制数的方法是乘权求和；（3）十进制数转换成任意进制整数部分方法是除基取余，小数部分是乘基取整；（4）二进制与八进制、十六进制转换利用它们的对应关系。

例1：将二进制数10110011.10111转换成十进制数。

例2：将十进制数233.8125转换成二进制数。

例3：将二进制数1011100.1101转换成八进制数和十六进制数。

二、数据编码及变换方法1、机器数和真值的概念数在计算机中的二进制表示形式统称为机器数或机器码，机器数可分为无符号数和带符号数，机器数对应的实际数值为真值。

机器数的特点：（1）数的符号二进制代码化。

“0”正“1”负，放在最高位。

（2）小数点隐含在数据的某一固定位置上，不占存储空间。

机器数可分为：（1）无符号数：机器字长的所有二进制位均表示数值。

简述定点、浮点表示法的区别。

定点表示法和浮点表示法是两种不同的数据表示方式。

定点表示法一般用来表
示固定的数字，其特点是精度较高，但是占用的存储空间也大。

而浮点表示法则更加灵活，能够表示变化的数字，存储空间也比定点表示法小，但是有一定精度损失，这两种表示法互补可以给我们更多的计算机使用选择。

首先，定点表示法是指将数字按照一定的规则固定分成若干部分，比如我们进
行十进制小数表示时，它固定分割出整数部分和小数部分，进而用二进制表示数据，其各个部分存储在固定的的字节大小的内存单元里，使得存储的精度非常高。

但是定点表示法也有缺点，比如处理动态变化的数据时精度会有影响，占用的存储空间也大。

而浮点表示法的概念主要源于数学中的浮点数，即能够在改变参数值的情况下
仍能保持一定的精确度，因此在计算机科学中浮点数也同样可以表示一定范围内变化数据。

相比定点表示法，浮点表示法容易实现，且占用内存空间相对小。

但是在精度上有一定损失，再有国际标准IEEE 754推荐的浮点表示，依然无法避免产生
舍入误差，进行高精度的计算就很有局限性。

从上述对比可以看出，定点表示法和浮点表示法各有优势，相互交互可以满足
不同的应用场景。

当然，应用层面若想处理浮点数，依然需要进行技术支撑，特别是进行大规模运算时，不仅要求开发者必须理解定点表示法和浮点表示法的基本原理，也还要对算法进行优化提高计算精度。

简介当我们用不同的电脑计算圆周率时，会发现一台电脑的计算较另一台来讲结果更加精确。

或者我们在进行枪战游戏的时候，当一粒子弹击中墙壁时，墙上剥落下一块墙皮，同样的场面在一台电脑上的表现可能会非常的呆板、做作；而在另外一台电脑上就会非常生动形象，甚至与我们在现实中看到的所差无几。

这都是浮点运算能力的差异导致的。

定点与浮点大学计算机基础中已经了解过计算机的实数表示方法可分为两种即定点与浮点1、定点数：定点数指小数点在数中的位置是固定不变的，通常有定点整数和定点小数。

在对小数点位置作出选择之后，运算中的所有数均应统一为定点整数或定点小数，在运算中不再考虑小数问题。

（1）定义：数据中小数点位置固定不变的数（2）种类：定点整数（3）小数点在符号位与有效位之间。

注：定点数受字长的限制，超出范围会有溢出。

2、浮点数：浮点数的表示形式有点像科学计数法（*.*****×10^***），它的表示形式是0.*****×10^***，在计算机中的形式为 .***** e ±***），其中前面的星号代表定点小数，也就是整数部分为0的纯小数，后面的指数部分是定点整数。

利用这样的形式就能表示出任意一个整数和小数，例如1024就能表示成0.1024×10^4，也就是 .1024e+004，3.1415926就能表示成0.31415926×10^1，也就是 .31415926e+001，这就是浮点数。

浮点数进行的运算就是浮点运算。

注：其浮点数的精度由尾数决定，数的表示范围由阶码决定。

浮点数，这个复杂点，有三种格式单精度：_31_30________23_22___________0符号指数有效数双精度：_63_62__________52_51__________________0符号指数有效数扩展精度数：_79_78____________64_63___________________0符号指数有效数3、定点数与浮点数区别定点表示法运算直观，但数的表示范围较小，不同的数运算时要考虑比例因子的选取，以防止溢出。

定点整数、定点小数、浮点数和指数是数学中常见的概念，它们在数字表示和运算中都起着重要的作用。

本文将介绍它们的定义、区别和通联，希望读者通过本文的阐述能够更加深入地理解这些概念。

一、定点整数定点整数是指在固定的位置表示的整数。

在计算机中，定点整数是直接表示整数值的，通常使用一个固定的位数来表示整数部分和小数部分。

8位的定点整数表示形式为sxxxxxxx，其中s表示正负号，x表示整数部分。

由于定点整数的位数是固定的，所以它能够表示的范围是有限的，但在一定的范围内可以得到较高的精度。

二、定点小数定点小数是指小数点位置固定的数。

它和定点整数相似，但是它的小数点位置是固定的，即小数点后面的位数是固定的。

三、浮点数浮点数是指用科学记数法来表示的数。

它由一个有效数字部分和一个指数部分组成。

有效数字部分是一个带小数点的十进制数，指数部分是一个用科学记数法表示的整数。

浮点数的特点是可以表示很大或很小的数，并且对于一些小数运算有比较好的精度。

但是由于浮点数的表示形式是二进制的，所以在表示某些十进制小数时会有精度损失的问题。

四、指数指数是表示数的次方的方法。

指数可以为整数、小数或者是分数。

当指数为整数时，结果很容易计算；当指数为小数或者分数时，结果需要通过计算机程序或者数学公式来计算。

定点整数、定点小数、浮点数和指数的关系可以从以下几个方面来看：1. 表示范围。

定点整数和定点小数的表示范围是固定的，而浮点数的表示范围是可以很大或者很小的。

指数的作用就是可以表示很大或者很小的数。

2. 表示精度。

定点整数和定点小数在一定范围内有较高的表示精度，而浮点数的精度会受到位数限制和表示问题的影响。

指数的作用是可以通过乘方运算来得到某些较大或者较小的数。

3. 表示方法。

定点整数和定点小数使用固定的位数来表示，而浮点数使用科学记数法来表示。

在实际的计算中，需要根据具体的需求来选择合适的表示方法。

在一些要求较高的计算中，可以使用浮点数来表示或者计算；在一些对精度要求较高的计算中，可以使用定点整数和定点小数来进行计算。

小数点的表示为了节省内存，计算机中数值型数据的小数点的位置是隐含的，且小数点的位置既可以是固定的，也可以是变化的。

定点数与浮点数如果小数点的位置事先已有约定，不再改变，此类数称为“定点数”。

相比之下，如果小数点的位置可变，则称为“浮点数”。

⑴定点数。

常用的定点数有两种表示形式：如果小数点位置约定在最低数值位的后面，则该数只能是定点整数；如果小数点位置约定在最高数值位的前面，则该数只能是定点小数。

例如，假定用两个字节存放一个定点数，则以定点方式表示的十进制整数195为：这里，(-0.6876)10=(-0.10110000000001101…)2，转换为无限循环小数，存储时多余的位被截断。

如果知道一个定点数的小数点位置约定和占用存储空间大小，那么很容易确定其表示数的范围。

⑵浮点数。

浮点数表示法来源于数学中的指数表示形式，如193可以表示为0.193x103或1.93x102等。

一般地，数的指数形式可记作：N=M x RC其中，M称为“尾数”，C称为“阶码”。

在存储时，一个浮点数所占用的存储空间被划分为两部分，分别存放尾数和阶码。

尾数部分通常使用定点小数方式，阶码则采用定点整数方式。

尾数的长度影响该数的精度，而阶码则决定该数的表示范围。

同样大小的空间中，可以存放远比定点数取值范围大得多的浮点数，但浮点数的运算规则比定点数更复杂。

1. 什么是浮点数在计算机系统的发展过程中，曾经提出过多种方法表达实数。

典型的比如相对于浮点数的定点数（Fixed Point Number）。

在这种表达方式中，小数点固定的位于实数所有数字中间的某个位置。

货币的表达就可以使用这种方式，比如99.00 或者00.99 可以用于表达具有四位精度（Precision），小数点后有两位的货币值。

由于小数点位置固定，所以可以直接用四位数值来表达相应的数值。

SQL 中的NUMBER 数据类型就是利用定点数来定义的。

还有一种提议的表达方式为有理数表达方式，即用两个整数的比值来表达实数。