对付定点数而言,由于其小数点位置不变,因此当处理非纯小数(整数部分是零的小数是纯小数)的时候,须要乘上一个比例因子,以防止溢出。那么假如小数点可以移动那就好办了,这种数我们称为浮点数。
2、浮点运算
浮点运算便是实数运算,紧张利用在科学和多媒体中,可以理解为小数点可移动的运算办法。
单精度浮点数也便是float,用4个字节来存储的,单精度小数点后面共能精确到7位小数。单精度浮点运算运用在图形运用程序graphics application,图像处理image processing,机器学习。大部分人工智能演习任务以单精度浮点数或半精度浮点数为主,推理以Int8为主。
2.2 双精度浮点运算双精度double是用8个字节来存储的,双精度可精确到15位小数。双精度浮点运算紧张用于超算领域。
实际运用中,单精度和双精度浮点运算是综合利用的,超算会根据须要分配单双精度,仿照(化学、物理、金融),数值剖析等科学打算。