文档详情

2024龙蜥大会中兴通讯分论坛:Arm 生态助力大模型时代AI可持续发展.docx

发布:2025-02-28约9.85千字共30页下载文档
文本预览下载声明

Arm?生态助力大模型时代AI可持续发展

AArch64优化矩阵计算内核在llama.cpp上的应用

李天羽

主任软件工程师

?2024Arm

GenerativeAIAdoption

Inferencing?~80-85%ofAIworkloads

Inferencing

?~80-85%ofAIworkloads

?Customizetoindustryverticalsenterprises

?Hundredsofstartupslaunchedsince2023

?Anevolving

显示全部
相似文档