国金证券-电子行业研究:AI应用带动推理算力需求,看好ASIC行业厂商发展.pdf
文本预览下载声明
投资逻辑
我们认为AI推理降本有望带动AI应用的爆发,ASIC作为高性价比的算力方案,有望充分受益推理算力需求增长。从
chatgpt3发布以来,大语言模型的推理的成本以指数级别下降,单美元可生成的token数量持续增长,据A16z
Infrastructure测算,推理成本每年降低幅度约10倍。模型推理的算法升级落地,通过包括强化学习、MOE等方法
提升模型推理能力。我们认为:模型的推理成本快速降低,有望带动
显示全部