边缘人工智能及其工作原理

编辑:NVIDA      发布时间:2023-05-19      浏览量: 322

人工智能功效的最新进展、物联网设备的采用和边缘计算的力量共同释放了边缘人工智能的力量。

这为边缘人工智能开辟了以前无法想象的新机会——从帮助放射科医生识别医院的病理,到在高速公路上驾驶汽车,再到帮助我们为植物授粉

无数分析师和企业都在谈论和实施边缘计算,边缘计算的起源可以追溯到 1990 年代,当时创建了内容交付网络,以从部署在用户附近的边缘服务器提供 Web 和视频内容。

如今,几乎每个企业的工作职能都可以从边缘人工智能的采用中受益。事实上,边缘应用正在推动下一波人工智能计算 浪潮,改善我们在家庭、工作、学校和交通中的生活。

详细了解什么是边缘 AI、它的优势和工作原理、边缘 AI 用例示例以及边缘计算和云计算之间的关系。

什么是边缘人工智能? 

边缘 AI 是在整个物理世界的设备中部署 AI 应用程序。之所以称为“边缘 AI”,是因为 AI 计算是在网络边缘的用户附近完成的,靠近数据所在的位置,而不是集中在云计算设施或私有数据中心。

由于互联网具有全球影响力,因此网络边缘可以表示任何位置。它可以是零售店、工厂、医院或我们周围的设备,如交通信号灯、自动机器和电话。

边缘人工智能:为什么是现在? 

各行各业的组织都在寻求提高自动化程度,以改进流程、效率和安全性。

为了帮助他们,计算机程序需要识别模式并反复安全地执行任务。但世界是非结构化的,人类执行的任务范围涵盖了程序和规则无法完全描述的无限情况。

边缘人工智能的进步为机器和设备提供了机会,无论它们位于何处,都可以利用人类认知的“智能”进行操作。支持 AI 的智能应用程序学习在不同情况下执行类似任务,就像现实生活一样。

在边缘部署 AI 模型的功效源于最近的三项创新。

  1. 神经网络的成熟:神经网络和相关的人工智能基础设施终于发展到允许通用机器学习的地步。组织正在学习如何成功地训练人工智能模型并将它们部署到边缘生产中。
  2. 计算基础设施的进步:在边缘运行 AI 需要强大的分布式计算能力。高度并行 GPU 的最新进展已适用于执行神经网络。
  3. 物联网设备的采用:物联网的广泛采用推动了大数据的爆炸式增长。随着突然能够收集业务各个方面的数据——从工业传感器、智能相机、机器人等——我们现在拥有在边缘部署人工智能模型所需的数据和设备。此外,5G 正在通过更快、更稳定和更安全的连接为物联网提供助力。

为什么要在边缘部署 AI?边缘人工智能有什么好处? 

由于 AI 算法能够理解语言、视觉、声音、气味、温度、面部和其他非结构化信息的模拟形式,因此它们在最终用户遇到现实世界问题时特别有用。由于与延迟、带宽和隐私相关的问题,这些人工智能应用程序在集中式云或企业数据中心中部署是不切实际的,甚至是不可能的。

边缘 AI 的优势包括:

  • 智能: AI 应用程序比只能响应程序员预期的输入的传统应用程序更强大、更灵活。相比之下,人工智能神经网络并没有被训练如何回答特定问题,而是被训练如何回答特定类型的问题,即使问题本身是新的。没有人工智能,应用程序就不可能处理无限多样的输入,如文本、口语或视频。
  • 实时洞察:由于边缘技术在本地分析数据,而不是在远程通信延迟的遥远云端分析数据,因此它实时响应用户的需求。
  • 降低成本:通过使处理能力更接近边缘,应用程序需要更少的互联网带宽,从而大大降低网络成本。
  • 增加隐私:人工智能可以分析现实世界的信息,而无需将其暴露给人类,大大增加了任何需要分析外貌、声音、医学图像或任何其他个人信息的人的隐私。Edge AI 通过在本地包含该数据,仅将分析和见解上传到云来进一步增强隐私。即使部分数据是出于培训目的而上传的,也可以将其匿名化以保护用户身份。通过保护隐私,边缘 AI 简化了与数据合规性相关的挑战。
  • 高可用性:去中心化和离线功能使边缘 AI 更加强大,因为处理数据不需要互联网访问。这为关键任务、生产级 AI 应用程序带来了更高的可用性和可靠性。
  • 持续改进: AI 模型在训练更多数据时变得越来越准确。当边缘 AI 应用程序遇到它无法准确或自信地处理的数据时,它通常会上传数据,以便 AI 可以重新训练并从中学习。因此,模型在边缘生产的时间越长,模型就越准确。

边缘人工智能技术如何运作?

边缘 AI 应用程序的生命周期。

为了让机器看到、执行物体检测、驾驶汽车、理解语音、说话、走路或以其他方式模仿人类技能,它们需要在功能上复制人类智能。

人工智能采用一种称为深度神经网络的数据结构来复制人类的认知。这些 DNN 经过训练可以回答特定类型的问题,方法是向其展示该类型问题的许多示例以及正确答案。

这种称为“深度学习”的训练过程通常在数据中心或云端运行,因为训练准确的模型需要大量数据,而且需要数据科学家协作配置模型。训练结束后,模型毕业成为可以回答现实世界问题的“推理引擎”。

在边缘 AI 部署中,推理引擎在工厂、医院、汽车、卫星和家庭等偏远地区的某种计算机或设备上运行。当 AI 遇到问题时,麻烦的数据通常会上传到云端,以进一步训练原始 AI 模型,在某些时候取代边缘的推理引擎。这个反馈回路在提高模型性能方面起着重要作用;一旦部署了边缘 AI 模型,它们只会变得越来越聪明。

Edge AI 用例的例子有哪些? 

人工智能是我们这个时代最强大的技术力量。我们现在正处于人工智能正在彻底改变世界上最大的行业的时代。

在制造、医疗保健、金融服务、交通、能源等领域,边缘 AI 正在推动各个领域的新业务成果,包括:

  • 能源智能预测:对于能源等关键行业,不连续供应可能威胁到普通民众的健康和福祉,智能预测是关键。边缘 AI 模型有助于结合历史数据、天气模式、电网健康状况和其他信息来创建复杂的模拟,为客户提供更高效的能源生产、分配和管理信息。
  • 制造中的预测性维护:传感器数据可用于及早检测异常并预测机器何时会发生故障。如果机器需要维修,设备上的传感器会扫描缺陷并发出警报管理,以便及早解决问题,避免代价高昂的停机时间。
  • 医疗保健中的 AI 驱动仪器:边缘的现代医疗仪器正在成为支持 AI 的设备,这些设备使用超低延迟的手术视频流来允许微创手术和按需洞察。
  • 零售中的智能虚拟助手:零售商希望通过引入语音订购来用语音命令取代基于文本的搜索来改善数字客户体验。通过语音订购,购物者可以使用智能扬声器或其他智能移动设备轻松搜索商品、询问产品信息以及在线下订单。

云计算在边缘计算中扮演什么角色? 

AI 应用程序可以像公共云中的数据中心一样在数据中心运行,或者在用户附近的网络边缘的现场运行。云计算和边缘计算各自提供可以在部署边缘 AI 时结合使用的优势。

云提供与基础架构成本、可扩展性、高利用率、服务器故障恢复能力和协作相关的优势。边缘计算提供更快的响应时间、更低的带宽成本和网络故障恢复能力。

云计算可以通过多种方式支持边缘 AI 部署:

  • 云可以在其训练期间运行模型。
  • 云继续运行模型,因为它使用来自边缘的数据进行重新训练。
  • 当高计算能力比响应时间更重要时,云可以运行人工智能推理引擎来补充现场模型。例如,语音助手可能会响应其名称,但会将复杂的请求发送回云端进行解析。
  • 云端提供最新版本的 AI 模型和应用程序。
  • 相同的边缘 AI 通常在现场使用云端软件的一系列设备上运行

边缘人工智能的未来 

由于神经网络的商业成熟、物联网设备的激增、并行计算和 5G 的进步,现在有了用于通用机器学习的强大基础设施。这使企业能够利用巨大的机会将 AI 引入其业务场所并根据实时洞察采取行动,同时降低成本并增加隐私。

从设计到生产

灏域为您提供

全产业链解决方案

开始我们的合作

+86 18600523371