NPU在智能手机上驱动AI服务

NPU在智能手机上驱动AI服务

这是AI引起人们关注的时代，被称为AI时代。去年10月，Gartner宣布了10种有前途的技术，其中有4种与AI相关。

这是因为AI对世界具有巨大的影响。普华永道（PwC）预测了人工智能在2030年的全球影响中的经济影响。根据普华永道的预测，到2030年，人工智能将产生15.7万亿美元的连锁反应。

这相当于美国的GDP，xxx的GDP和日本的GDP的四倍。这是韩国GDP的10倍以上。因此，人工智能有望影响几乎所有行业，并且是领导第四次工业xxx的一项主要技术。

这些AI经常跟随云计算。许多人认为AI需要大量的计算资源。您需要具有高端硬件（如云）的基础架构。

因此，云服务提供商正在积极推广服务，以为没有高端硬件基础架构的SMB租用这些基础架构。这称为人工智能即服务（AIaaS），它允许中小型企业支付和接收必要的资源。几乎所有云服务，包括Amazon Web Services（AWS），Microsoft（Azure），Google Cloud和Naver Business Platform（NBP），都提供AIaaS。

无法在类似云的环境中提供所有AI服务

但是，这里出现一个问题。AI的实现和操作是否仅在具有高端硬件的环境中可行？例如，在智能手机上使用一些AI服务。

主流智能手机均配备了语音AI。并且有一个语音命令来执行它。对于Samsung Bixby，如果您说“ high bixby”，则它会同时对扬声器和声音做出反应。或考虑基于AI的生物特征认证，例如面部识别或虹膜识别。

当然，这些功能只能在智能手机上运行，​​而不能在云中运行。想一想。如果智能电话的语音命令在中央服务器中操作，则智能电话必须作为中央服务器操作所有周围的语音。这实际上是不可能的。并可能导致网络通信失败。这是因为大量的网络通信流向中央服务器。另外，存在隐私问题的风险。这是因为与私人语音相关的内容被发送到中央服务器。

考虑面部识别。中央服务器必须验证智能手机通过网络识别的所有面部信息。这也会使服务器过载。

NPU，智能手机专用AI芯片

AI通常需要高规格。但这并不一定无处不在。因此，趋势是在设备本身上实现和操作AI。这可以从Gartner的10种有前途的技术中得出。

在十大有前途的技术中，有“ Empowered Edge”和“ Autonomous Things”。增强边缘指的是一种技术趋势，该趋势使用计算资源在设备本身而不是云中提供服务。AI服务也与此相对应。自动化设备是将AI的自动化设备引入设备的技术趋势。人工智能可以在云中实现。但是通过增强的边缘，可以在设备本身内完成此操作。

这种趋势在智能手机中尤为突出，因为智能手机自身提供了一些AI服务。这也与AI专用芯片的出现有关。AI芯片是针对AI实现进行了优化的半导体。

AI在并行处理环境中有效。这是因为要并行计算大量因子才能得出结果。因此，AI驱动在现有CPU中效率低下。这是因为CPU收集了计算能力并对其进行串行处理。AI的因数需要较少的计算。但是，CPU是浪费的，因为它在单个因素上使用了很多操作。另外，还有很多事情要做。

因此，在AI中，通过将计算量分成几个来并行进行半导体处理是有效的。图形处理单元（GPU）扮演了这个角色。

然而，近来，已经研究了更有效的半导体，并且出现了AI优化的神经形态处理器。严格来说，它是针对“深度学习”进行了优化的，这引起了AI的关注。深度学习是一种基于人类神经网络建模的机器学习算法，类似于深度学习，神经形态处理器半导体也基于神经网络建模。因此，仅针对深度学习进行了优化。

最近，神经形态处理器被应用于智能手机处理器（AP）。神经处理器单元（NPU）是智能手机专用的AI芯片，通过将NPU安装在智能手机中，可以在智能手机中实现AI。严格来说，提高了AI驱动效率。三星电子比较了采用NPU前后的模型，就AI服务计算效率而言，该模型在应用后的性能比应用前高7倍。

NPU 不是实现AI的关键

有一个警告。NPU并不全面。NPU仅用作加速器，以增强智能手机中AI所需的计算。NPU的存在并不意味着可以在智能手机中有效地实现所有AI服务。

人工智能可以分为学习和推理。学习是一个分析大量数据并需要高速数据处理设备的过程。必须包含高性能硬件。因此，几乎不可能在智能手机上实现AI学习。

推理是基于学习驱动AI的动力。智能手机中AI服务的实现属于推理领域。它基于学习而工作。但是，所需的性能取决于计算中考虑了多少因素以及计算的精确度。

以人脸验证为例。脸部验证只需要验证特定用户。因此，很容易实现。另一方面，面部识别必须在众多用户中找到相似的人。由于需要分析的数据量很大，因此计算量很大，准确性也很低。前者可以在智能手机中实现，后者很难实现。

NPU因在智能手机中实现AI服务而有望引起关注。结果，竞争将变得更加激烈。预计以韩国，美国和中国为中心的NPU竞争将会很激烈。

NPU远远xxx于美国。高通公司是一家xxx的公司。高通公司于4日推出了仅用于智能手机的处理器Snapdragon 865。第五个AI专用AP。在AI驾驶中，性能为每秒15万亿次操作（TOPS）。显示了15TOPS性能。

韩国公司三星电子正在追赶此事。三星推出了智能手机专用处理器Exynos 990。在AI中，性能超过10TOP。