来源:网易智能2019-05-01 18:24:06 热度:

主攻算力短板 创新奇智发布提升GPU处理性能论文

AI中国网 https://www.cnaiplus.com


创新奇智CTO张发恩

【网易智能讯4月3日消息】今天,创新奇智在京举行媒体沟通会,创新奇智CTO张发恩解读了在DAC合作发表了关于提升GPU处理性能的研究论文。

据了解,在2019第56届设计自动化大会,张发恩等人联合发布了一篇论文《Efficient GPU NVRAM Persistence with Helper Warps》,该论文首次提出一种方法,通过在GPU上使用NVRAM存储的有效并且易于使用的事务处理系统。


张发恩谈到,在人工智能时代,算法、算力与数据是三个最重要的要素,科学家和工程师将GPU应用于人工智能模型训练和推理后,带来了巨大的算力提升。

不过,他认为在某些场景下,GPU性能并没有完全发挥,创新奇智要做的事情就是弥补算力的短板。例如,智能货柜和渠道陈列平台每天都要为客户处理数百万张高清图片;工业视觉平台需要在车间产线实时处理超清图片;智慧园区平台需要同时处理多路高清摄像头视频数据等等。

张发恩告诉网易智能,不仅仅是在落地应用的过程中,在模型训练中也需要更为迅速的对大量的数据进行处理,这就对计算机系统整体计算性能的提升,尤其是异构计算主要构成-GPU性能的提升提出了更为紧迫的要求。

为了解决这个问题,张发恩们提出使用Helper Warp(暂简单译为辅助调度单位)将持久性移出事物执行的关键路径,从而减轻延迟的影响。在带宽限制为1.6GB/s和12GB/s的情况下,该机制分别实现了4.4倍和1.5倍的加速,并且预计即使在NVRAM带宽高达数百GB/s的某些情况下,也将保持速度优势。

他将论文的主要贡献总结为三点,首先,提出了在GPU上使用NVRAM存储的有效并且易于使用的事务处理系统。其二,提出使用Helper Warp,利用GPU的闲置计算资源来缓解写入带宽的限制。其三,建立了一种在不同的程序下能够自适应地启用Helper Warp(辅助调度单位)达到性能提升。(定西)


AI中国网 https://www.cnaiplus.com

本文网址:

欢迎关注微信公众号:人工智能报;合作及投稿请联系:editor@cnaiplus.com