电子行业深度报告：端侧AI，模型创新快速迭代，看好苹果引领AI硬件起飞.pdf
行业深度报告
内容目录
1.AI技术在端侧逐渐深化，引领全新人机协作方式4
1.1.AI自主化能力逐渐提高，与系统融合程度提升4
1.2.基于用户场景的端云混合架构4
1.3.LLM从各个层面改造终端5
1.4.消费级终端带动端侧AI高速发展6
2.端侧模型逐步迭代，巨头引领行业发展8
2.1.基础的小模型迭代加速，技术创新大于参数量提升8
2.2.端侧模型需要进一步提升参数量以提高性能9
2.3.量化/剪枝/蒸馏技术压缩模型以降低硬件要求9
2.4.Agent架构差异带来数据困境，Transformer是转折点10
3.硬件升级满足高性能需求，适配核心在内存13
3.1.内存是端侧硬件AI推理能力的短板13
3.2.安卓和iOS内存利用效率差异大14
3.3.苹果硬件积极应变，创新方案集中内存方向14
4.多模态UI交互界面革命带来Agent的历史机遇16
4.1.Transformer架构带来UI交互的机遇16
4.2.苹果和谷歌均发力UI交互模型17
5.风险提示20
2/21
行业深度报告
图表目录
图1：AI智能化分级4
图2：AIOS架构4
图3：终端AI能力主线增强但当前依然不足4
图4：端侧和云端AI处理的分工示意4
图5：苹果的AI生态架构5
图6：增强型LLM架构6
图7：提示链工作流6
图8：AIAgent架构图6
图9：存量消费终端设备结构（%，2023年）7
图10：中国端侧AI行业市场规模，2018-2028E（亿元）7
图11：小型模型比较8
图12：各小型模型MMLU基准测试得分8
图13：GeminiNano与Pro性能比较9
图14：小型化技术-剪枝原理示意图10
图15：小型化技术-蒸馏原理示意图10
图16：量化与精度恢复对模型性能的影响（以未量化的模型表现为1）10
图17：多模态大模型架构10
图18：AgentTransformer架构10
图19：AI终端关键技术特征11
图20：端侧Agent的组成部分11
图21：AIAgent底层能力和高级能力之间的映射关系11
图22：提升Agent效率的技术及其简要说明12
图23：常见移动设备中的内存层级结构13
图24：计算和存储操作的能耗13
图25：主流手机SoC对比13
图26：安卓和iOS运行App时内存占用对比14
图27：安卓和iOS运行游戏时内存占用对比14
图28：PoP封装的形式15
图29：苹果芯片封装形式改变15
图30：Agent任务执行过程（以GUI界面为例）16
图31：智能体和API之间的调用方式示例（Extension方式）16
图32：UI界面复杂，元素识别困难17
图33：Ferret-UI-Anyres架构17
图34：Ferret-UI-anyres准确率表现优异18
图35：谷歌ScreenAI模型架构18
图36：ScreenAI模型的屏幕理解/问答/导航/摘要四类任务示例19
图37：谷歌不同参数ScreenAI模型参数量及其分配细节19
图38：不同参数的ScreenUI模型的表现19
3/21
行业深度报告
1.AI技术在端侧逐渐深化，引领全新人机协作方式
1.1.AI自主化能力逐渐提高，与系统融合程度提升