首页 » 科学 » 定点运算、浮点运算(单精度、双精度浮点运算)差异_精度_浮点

定点运算、浮点运算(单精度、双精度浮点运算)差异_精度_浮点

乖囧猫 2024-12-13 05:15:17 0

扫一扫用手机浏览

文章目录 [+]

对付定点数而言,由于其小数点位置不变,因此当处理非纯小数(整数部分是零的小数是纯小数)的时候,须要乘上一个比例因子,以防止溢出。
那么假如小数点可以移动那就好办了,这种数我们称为浮点数。

2、浮点运算

浮点运算便是实数运算,紧张利用在科学和多媒体中,可以理解为小数点可移动的运算办法。

定点运算、浮点运算(单精度、双精度浮点运算)差异_精度_浮点 科学

2.1 单精度浮点运算

单精度浮点数也便是float,用4个字节来存储的,单精度小数点后面共能精确到7位小数。
单精度浮点运算运用在图形运用程序graphics application,图像处理image processing,机器学习。
大部分人工智能演习任务以单精度浮点数或半精度浮点数为主,推理以Int8为主。

2.2 双精度浮点运算

双精度double是用8个字节来存储的,双精度可精确到15位小数。
双精度浮点运算紧张用于超算领域。

实际运用中,单精度和双精度浮点运算是综合利用的,超算会根据须要分配单双精度,仿照(化学、物理、金融),数值剖析等科学打算。

相关文章

IT数通知识,构建高效网络的基础

随着信息技术的飞速发展,网络已经成为人们生活中不可或缺的一部分。在这个信息化时代,构建高效、稳定的网络环境显得尤为重要。本文将从I...

科学 2024-12-27 阅读0 评论0