当前位置: 首页 > news >正文

微商城网站开发中国建筑协会证书查询

微商城网站开发,中国建筑协会证书查询,上海建设交通网站,电子商务网站经营性icp定点和浮点都是数值的表示(representation),它们区别在于,将整数(integer)部分和小数(fractional)部分分开的点,点在哪里。定点保留特定位数整数和小数,而浮点…

定点和浮点都是数值的表示(representation),它们区别在于,将整数(integer)部分和小数(fractional)部分分开的点,点在哪里。定点保留特定位数整数和小数,而浮点保留特定位数的有效数字(significand)和指数(exponent)

1.FP与INT

FP代表浮点运算数据格式,包括双精度FP64 单精度FP32 半精度FP16和FP8

INT代表整数数据格式,包括INT8和INT4

后面的数字越高意味着精度越高能够支持的运算复杂度也就越高 适配场景也就越广,同样对推理端的计算资源要求也就越高;

2.FP64、FP32、FP8 和INT8、INT4 

双精度FP64 :浮点数使用64位表示,提供更好的精度和动态范围。通常应用在高精度计算的场景中,对存储空间以及计算资源要求较多  通常较少使用

单精度FP32:浮点数使用32位表示,适用于大多数科学计算和通用计算任务。通常我们训练神经网络模型的时候默认使用的数据类型为单精度FP32

半精度FP16:浮点数使用16位表示。相对于FP32提供了较低的精度,按照理论来说可以跑机器学习这些任务,但是FP16会出现精度溢出和舍入误差,所以很多应用都是使用混合精度计算的也就是FP16+FP32模式

浮点数在高精度图像处理有较大优势能够使图片中更多颜色、对比度、质感和清晰度得以保留。

但INT类型速度更快

  • 第一部分为 sign 符号位 s,占 1 bit,用来表示正负号;
  • 第二部分为 exponent 指数偏移值 k,占 5 bits,用来表示其是 2 的多少次幂;
  • 第三部分是 fraction 分数值(有效数字) M,占 10 bits,用来表示该浮点数的数值大小。

固定点数INT8:固定点数使用固定的小数点位置来表示数值,可以使用定点数算法进行计算。相对于浮点数计算,算力和内存资源要求更低。


 

http://www.yayakq.cn/news/484856/

相关文章:

  • 创建网站首页模板网免费
  • 网站被百度惩罚怎么办竞价网站做推广
  • wordpress能做大站吗怎么宣传自己的网站推广
  • 石家庄有做网站的公司吗asp购物网站源码
  • 中文域名网站有哪些西宁手机网站建设
  • 公司开发个网站怎么做wordpress category order
  • 表白网站制作源代码wordpress阅读设置
  • 电子商务网站建设 价格wordpress上传图片占空间
  • 石家庄做网站邮箱电话小程序制作开发平台
  • 商城顺德网站建设wordpress 文章标题移动
  • 石家庄语音网站建设公司网站访问量怎么做
  • 学校网站的服务器手机软件app制作的三种方式
  • 济南网站备案程序深圳网页制作与网站建设方案维护
  • 聊城做网站公司信息百度一下你就知道移动首页
  • 长春网站建设流程世界杯比赛系统网页设计作业
  • 找国外公司做网站wordpress浏览次数插件
  • 做生存曲线的网站网站排名与什么有关系
  • 辽阳住房和城乡建设网站discuz网站伪静态设置
  • 网页设计建网站流程河南seo和网络推广
  • 建站推广什么意思帮齐家网做的网站
  • 如何填写网站开发验收单网站开发分为哪几块
  • 江门做网站多少钱如何定制微信小程序
  • 上海网站建设公司 红威做直播网站需要那些技术
  • 手机网站返回跳转网络文化有限公司网站建设策划书
  • 郑州正规网站制作公司建筑学网站推荐
  • 网页设计网站的分析单位建设网站的目的
  • 做海鱼的网站网站开发的技术路线
  • 福建漳州东山规划建设局网站网站建设功能seo
  • 在南宁做家教兼职的网站郑州网站建设策划方案
  • 渭城区住房和城乡建设局网站重庆金建站