文档详情

2024龙蜥大会中兴通讯分论坛:Arm 生态助力大模型时代AI可持续发展.pdf

发布:2025-02-26约2.91万字共15页下载文档
文本预览下载声明

Arm®生态助力大模型时代AI可持续发展

AArch64优化矩阵计算内核在llama.cpp上的应用

李天羽

主任软件工程师

©2024Arm

GenerativeAIAdoption

Inferencing

•~80-85%ofAIworkloads

•Customizetoindustryverticalsenterprises

•Hundredsofstartupslaunched

显示全部
相似文档