什么是边缘AI？边缘AI的概念及应用场景

在我们即将推出第二代边缘AI产品--“多模态混合边缘AI智算中台”之际，我们大致的梳理下边缘AI的概念；

第一章：什么是边缘AI？

在将边缘AI之前，我们先来梳理下边缘计算。

在过去的十多年里，云计算成功地缓解了日益增长的数据所带来的存储、管理等问题，但是目前网络带宽的增长速度远远赶不上数据的增长速度，复杂的网络环境让网络延迟很难有突破性提升。所以，传统的云计算不能满足对响应时间和安全性的高要求。以无人驾驶汽车为例，高速行驶的汽车需要在毫秒级的时间内响应，一旦由于数据传输、网络等问题导致系统响应时间增加，将会造成严重的后果。

除此之外，云计算还面临带宽问题。如果将边缘设备产生的大量数据全部传输至云计算中心，会给网络带宽造成极大的压力。例如，飞机波音787每秒产生的数据超过5GB，但飞机与卫星之间的带宽不足以支持数据的实时传输。

总之，单纯依靠云计算这种集中式的计算处理方式，不足以支持以物联网感知为背景的应用程序运行和海量数据处理。在这种应用背景下，边缘计算应运而生。

边缘计算是一种分布式计算模型，它将计算和数据处理部署在“源头”，即在网络的边缘节点上。边缘计算是为了减少数据传输和处理的延迟，并降低对中心服务器的依赖。它通过在边缘设备上进行本地计算、数据存储和分析，提供更快速的响应和实时性，减轻网络负载，增强数据安全性。

当然，边缘计算是一个持续迭代更新的概念，不同技术的融合，使得边缘计算不断创新，例如，智慧云天正在将视觉算法、AI大模型的多模态AI应用部署在边缘侧上，并使用基于Nvdia的Jetson的GPU平台作为底座，这样的边缘计算模式即称之为“边缘AI”。

边缘AI结合了边缘计算和人工智能技术，使得在边缘设备上能够进行智能数据处理和决策。边缘AI利用机器学习、深度学习和多模态AI大模型应用，使边缘设备能够自主地感知、理解和响应数据，这样可以实现实时的智能决策、智能控制和智能交互，为边缘场景带来更高效的应用，快速AI赋能。

第二章 边缘AI的应用前景

边缘AI因其流量占用少、时延低、隐私性强等特征，在各行各业具有广泛的应用前景。譬如，与我们生活息息相关的就有智能手机、智能家居、车联网、个人电脑、智能电视等等。

但是，随着边缘AI产业生态逐渐构建，在形势大好的背后，边缘智能仍然面临着各种各样的难题

1、边缘AI的算力问题；

目前Nvdia的Jetson的GPU只相当于30系列的入门级。

要使用更高算力的Jetson就需要更高的成本，对边缘应用场景来说，也会有成本的压力。

2、边缘场景多样化，如何适配？

边缘AI所服务的对象以及场景较为多样化，如何使一套边缘智能平台适应多样化的第三方应用，也是目前面临的一个问题。

2、业务的碎片化

边缘智能可能针对单一场景或者两三个场景进行部署，不仅需要在整个部署能力特性上进行明确定义，且需要考虑如何进行敏捷智能化的配置与运维。

智慧云天的边缘AI产品--“边缘AI智算中台”有效的解决上述场景多样化、业务碎片化的问题。

针对场景多样化，提供了校园、园区、小区、工地、商铺、交通、城管、工厂等多场景进行了适配，在边缘AI中植入应用，即插即用。

针对碎片化场景，可以对前端感知设备进行灵活的AI能力配置，譬如让不同摄像头处理不同的任务，对不同文字或语音输入的源头通路，做出不同知识库响应等等。多模态、多任务、异步处理的中间件平台。这就是我们的边缘AI智算中台。