近期,京东与英特尔®联合创新实验室实现了基于fpga的深度学习线上服务,用于处理图像内容感知等应用。来自京东ai与大数据部的研发团队,通过英特尔®arria®10fpga(现场可编程门阵列)实现了卷积神经网络(cnn)和长短时记忆神经网络(lstm),帮助分析京东云服务上的海量图像信息。其中,在低延迟和高吞吐需求下,依然可以精准理解和分析图像内容。这一技术不仅适合京东私有云上的图像处理,还可帮助接入京东云服务的用户使用深度学习线上服务,享受到fpga技术所带来的人工智能应用能力提升。图像内容感知识别技术在京东有着广泛的应用场景,其中京东的ocr(opticalcharacterrecognition,光学字符识别)系统基于cnn+lstm网络实现了端到端的文字识别,这项技术用于京东敏感词审核、商品描述提取以及用户实名认证等诸多环节。京东集团副总裁,ai与大数据部负责人翁志指出:“虽然目前京东的商品详情图上敏感词审核已有95%以上的准确率和90%以上的召回率,但在某些场景中,图片内容的复杂性使得在现有gpu上进行的计算处理会存在延时。”基于此,京东英特尔®联合创新实验室通过arria®10fpga实现了性能上的提升,“经过测试,arria®10fpga上实现的lstm加速卡相比gpu在性能上提升了近5倍,避免了一些无用计算,降低了图片的识别延时,非常有利于优化我们的应用场景”,翁志表示。
图像识别性能的提升,带来的直接效果就是加快了审核商家上传商品详情图和文字信息的过程,实时发现并打击违反广告法的虚假宣传,为京东用户提供净化的网络消费环境。
京东一直致力于通过技术创新和应用提升运营效率和用户体验,图像内容感知识别技术作为很多人工智能应用的基础,一直是京东的重点研发方向。在建立了大规模的gpu计算集群之后,京东也率先着手进行fpga应用的探索。fpga已经成为对这类加速任务的专用硬件,并能够提供常见的处理器难以支持的系统特性,例如:当云上数据随机到来时,仍保持极低并且确定的处理迟延。英特尔®arria®10fpga作为英特尔®至强™处理器的协处理加速器具有很好的性能、能效和成本优势,因此被选作京东云平台上深度学习线上业务的加速引擎。
“英特尔®fpga灵活、低迟延、高吞吐量、高能效,是理想的人工智能应用加速解决方案。”英特尔®公司可编程解决方案部门软件营销及规划总监费熊健(bernhardfriebe)介绍说,“英特尔®的人工智能生态环境将支持fpga技术,我们可提供面向fpga优化的库和框架来实现开发者生产力及更短的设计周期。”
相关新闻 2016-03-31 2016-06-14 2016-07-18 2017-04-27 2017-05-19