高通终端侧AI+5G优势加速大模型时代到来！

2023年，以ChatGPT为代表的生成式人工智能（AIGC）大火，标志着生成式AI元年的到来。生成式AI技术已经在建筑、艺术、工程编程等行业中展现出显著的应用潜能，这些技术通过深度学习和神经网络，学习并模仿人类的语言和视觉艺术模式。例如，ChatGPT能基于输入的文本生成连贯且有创意的回答，而Stable Diffusion则能根据简单的描述创造出精美的图像和视频。

据行业初步预估，生成式AI市场规模将达到1万亿美元，并驱动新一轮内容生成、搜索和生产力相关用例的发展。例如，在传媒和娱乐行业，生成式AI正在重塑内容的生产和消费方式；在教育领域，生成式AI提供了个性化学习材料和交互式学习体验；在商业领域，生成式AI助力广告创意、产品设计和市场分析；甚至在医疗健康领域，生成式AI也开始展现出在疾病诊断和治疗计划制定中的潜力。

手机、PC、物联网……终端侧生成式AI应用有哪些？

随着技术的发展，AIGC也在逐渐从云端向终端侧转移，并引起了移动终端芯片厂商的广泛重视。包括高通在内的各大移动芯片商都在积极推动AIGC在智能手机、PC、汽车、XR设备以及物联网等多种终端品类的普及。

在智能手机领域，生成式AI的应用正在推动算力的实质性增长，特别是在搜索方面。超过100亿次的日搜索量中，移动端占据主导地位。基于生成式AI的查询能提供令人满意的答案，引发用户搜索方式的变化。随着对话式搜索功能的不断强化，智能手机正逐渐成为真正的数字助手。这些设备不仅能够理解文字和语音，还能处理图像和视频等多种输入模式，并提供准确、贴切的回答。

在PC领域，生成式AI应用正变革着生产力。例如，Microsoft Office 365通过集成生成式AI，使日常工作流程更加高效。Microsoft 365 Copilot利用大语言模型和用户数据，将提示转化为生产力工具，支持大语言模型在Outlook、Word、PowerPoint、Excel和Teams中工作。Office用户可以通过大语言模型进行文档编写、电子邮件撰写、数据分析等任务，极大地提高了工作效率。

在汽车领域，AI正在提供高度个性化的体验。车载数字助手支持驾驶员和乘客通过免提界面保持无缝互联，同时为汽车生态系统创造新的收入机会。这些助手不仅能访问个人数据，还能处理来自车辆传感器的数据，提供增强的导航体验、自动化提醒和个性化娱乐内容。在自动驾驶系统中，生成式AI还有助于模拟极端驾驶情况，改进驾驶策略和安全性。

在XR领域，生成式AI正开拓3D内容创作和沉浸式体验的新前景。下一代AI渲染工具能够帮助内容创作者基于文本、语音等提示生成3D物体和场景，创造完整的虚拟世界。同时，文本到文本的大语言模型能为虚拟化身生成自然对话，图像生成模型则为虚拟化身创造外观和服装。未来，人们将能够利用语音提示、图像或视频生成逼真、全动画、智能、可量产的类人虚拟化身。

在物联网领域，行业正在利用生成式AI改进决策质量，优化运营效率，并创造竞争优势。例如，在零售业，生成式AI可以帮助提升客户和员工体验，通过简单提示帮助商店经理进行商品规划、库存管理和促销活动预测；在能源和公共设施领域，生成式AI有助于创建极端负荷场景，预测电力需求和潜在电网故障，提供优质的客户服务。

从云到端，混合AI成关键技术趋势

从云侧到端侧，生成式AI正在进入终端和云端协同工作的混合AI时代，这也是当今AI领域的一个关键趋势。

混合AI的核心优势在于其架构，它通过在云端和终端之间有效分配计算任务，解决了传统云端集中处理模式的计算需求和成本挑战。这种分布式处理机制不仅节省了成本，降低了能耗，还提高了可靠性、隐私保护、安全性和个性化体验。例如，对于简单的推理任务，如日常对话或基本查询，终端侧AI可以独立处理；而对于复杂的数据分析或大规模模型训练，则需要云端的强大计算能力。在混合AI架构下，终端设备处理相对简单的推理任务，而更复杂的任务则由云端处理。随着终端AI处理能力的提升，更多的云端负载可以转移到终端。

混合AI在适当的场景和时间下分配AI计算的工作负载，以提供更好的体验，并高效利用资源，这其中5G承担着连接云端算力和终端应用的关键桥梁。在5G的加持下，混合AI架构使AI在云端、边缘云和终端侧协同运行，使整个系统中的计算和处理能力能够以最有效的方式重新分布，实现更强大、更便利、更高效、更优化的AI。

高通在其发布的《混合AI是AI的未来》白皮书中提到，混合AI将支持生成式AI开发者和提供商利用边缘终端的计算能力降低成本。不仅如此，混合AI架构或终端侧AI还能够在全球范围带来高性能、个性化、隐私和安全等优势。