如何利用美国有线电视新闻网推理机实现物联网设备的深层学习

< > >
作者:唐杰
通过深入学习技术,可以智能地分析非结构化多媒体数据,对用户和环境事件进行智能响应,但性能和功耗要求较低。本文探讨了将深层学习与低功耗网络设备结合起来的两种方法。
近年来,越来越多的物联网产品出现在市场上。他们收集周围的环境数据,并使用传统的机器学习技术来理解这些数据。其中一个例子是谷歌的Nest恒温器,它以结构化的方式记录温度数据,并使用算法来掌握用户的温度偏好和时间表。然而,它对非结构化多媒体数据,如音频和视频图像无能为力。
新兴的物联网设备使用了一种更先进的深层学习技术,通过神经网络探索环境。例如,亚马逊回声可以理解人类语音指令,通过语音识别将语音信号转换成字符串,并使用这些词搜索相关信息。近日,微软的Windows物联网团队发布了一款基于人脸识别的安全系统,该系统具有深刻的学习技术,并能自动解锁,当它被识别到用户的脸时。
物联网中的深层学习应用通常具有很强的实时性要求。例如,为了实时响应陌生人,基于对象识别的安全摄像机通常需要不到500毫秒的检测延迟来捕获和处理目标事件。消费级物联网设备通常使用云服务来提供某种智能。然而,他们所依赖的高质量的Internet连接只在部分范围内可用,并且常常需要更高的成本,这对设备满足实时要求提出了挑战。相反,在物联网设备上实现直接学习可能是更好的选择,从而可以避免连接的质量。
然而,很难直接在嵌入式设备上实现深入学习。事实上,低功耗是移动设备联网的主要特征,通常意味着计算能力有限,内存容量小。在软件方面,为了减少内存占用,应用程序通常直接在裸机上运行,或者在轻量级操作系统中包含非常小的第三方库。相比之下,深度学习意味着高性能计算,同时伴随着高功耗。此外,现有的深度学习库通常需要调用一些第三方库,这些库很难移植到物联网设备上。
在深度学习任务中应用最广泛的是神经网络。这是一个卷积神经网络(CNN)。它可以将非结构化图像数据转换为结构化的对象标记数据。一般来说,细胞神经网络的工作过程如下:首先,卷积层扫描输入图像生成特征向量;第二步,有源层在推理的过程中,图像特征向量应该激活的确定;第三步,汇聚层减少特征向量的大小使用;最后,联系到使用全连接层,汇聚层和输出层的输出。
本文将讨论如何利用美国有线电视新闻网推理机实现物联网的深层学习。
>“服务迁移到云”> > > > > > > > > > > > > > > > > >将服务迁移到云
对于低功耗的物联网设备,问题在于是否有可靠的解决方案在云中部署深入学习,同时满足功率和性能要求。要回答这个问题,我们实现了美国有线电视新闻网基于对象的推理在NVIDIA Jetson TX1装置,并比较其性能和功耗与那些迁移到云。
为了确定服务迁移到云后是否能降低功耗,满足对象识别任务的实时性要求,我们将图像发送到云,然后等待云返回结果。研究表明,在目标识别任务中,本地功耗为7 W,迁移到云后功耗降低到0。这表明服务向云的迁移是降低功耗的有效途径。

,然而,能造成至少2秒的延迟,甚至长达5秒,当迁移到云,这不符合我们的500ms实时性的要求。此外,剧烈抖动的延迟使得服务很不可靠(作为对比,我们进行这些实验在美国美国和中国,分别)。通过

资料全部来自网络,如果有问题可以发邮件到站长邮箱