AIGC模型的量化和稀疏优化 Empower Risk RCA with LLM.docx

刘松伟-AIGC模型的量化和稀疏优化.pdf 刘松伟字节跳动ByteNN团队高级工程师硕士毕业于浙江大学，研究领域聚焦深度学习算法的全栈优化，涵盖模型优化和N 卡推理优化。在字节跳动ByteNN团队先后负责服务端稀疏加速/LLM推理优化能力建设，支持豆包视觉多模态大模型项目的推理优化。目前在ByteNN团队负责模型优化，致力于通过推理引擎和模型层面的协同优化，降低LLM/SD模型的云端推理成本，进一步推动AIGC模型的端侧落地。演讲主题： AIGC模型的量化和稀疏优化 AIGC端侧落地实践

2025-03-16 约1.25万字 41页立即下载

AIGC模型的量化和稀疏优化-2024全球机器学习技术大会.pdf 2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。 2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践、AI智能代理、代码大模型等12个热门专题，力求为全球开发者、研究人员、行业技术人员提供全方位、多角度的技术交流平台。 2024全球机器学习技术大会（北京站）主题涵盖大语言模型技术演进、多模态大模型前沿、大模型工程与架构、大模型应用开发实践

2024-11-23 约1.91万字 41页立即下载

LLM在eBay风控RCA中的应用实践.docx 刘威 eBay高级技术专家 eBay风控部门高级技术专家。曾先后主导了eBay风控实时RCA平台，风控地址标准化与模糊匹配服务，以及高并发高可用风控名单管理系统的设计与开发工作，负责多个eBay风控决策引擎核心组件的设计，开发与维护，具有丰富的高性能系统架构设计的工程经验。此外，在知识图谱与风控决策引擎的集成，大语言模型在风控领域的应用等方向具有深厚的技术积累与丰富的实践经验。演讲主题： LLM在eBay风控RCA中的应用实践 EmpowerRiskRCAwithLLM Liu,Wei eBayPaymentsRisk e

2025-03-15 约7.24千字 67页立即下载

刘威-LLM在eBay风控RCA中的应用实践.pdf 刘威 eBay高级技术专家 eBay风控部门高级技术专家。曾先后主导了eBay风控实时RCA平台，风控地址标准化与模糊匹配服务，以及高并发高可用风控名单管理系统的设计与开发工作，负责多个eBay风控决策引擎核心组件的设计，开发与维护，具有丰富的高性能系统架构设计的工程经验。此外，在知识图谱与风控决策引擎的集成，大语言模型在风控领域的应用等方向具有深厚的技术积累与丰富的实践经验。演讲主题： LLM在eBay风控RCA中的应用实践 EmpowerRiskRCAwithL

2025-03-14 约2.25万字 40页立即下载

大语言模型（LLM）上手指南.pdf 目录 TABLEOFCONTENTS 01了解大语言模型02 •1.1LLM，大在何处02 •1.2LLM的发展历程02 •1.3LLM的核心应用场景

2025-05-20 约1.52万字 15页立即下载

大语言模型（LLM）上手指南.docx 1 目目录 TABLEOFCONTENTS 01了解大语言模型 02 ?1.1LLM，大在何处 02 ?1.2LLM的发展历程 02 ?1.3LLM的核心应用场景 04 ?1.4多模态LLM 05 02训练大语言模型 07 ?2.1Transformer网络架构 07 ?2.2预训练和微调 08 ?2.3筹备训练环境 08 1003了解GPT 10 ?3.1GPT的优化

2025-05-22 约1.11万字 27页立即下载

大语言模型（LLM）简介.pdf 大型语言模型。缺稀才人大型语言模型简介业专的伐步展发术技上跟够

2025-06-05 约17.06万字 74页立即下载

LLM推理优化综述.docx 1摘要自?OpenAI?发布ChatGPT以来，基于Transformer架构的大语言模型(LLM)在全球范围内引发了深度的技术关注，并取得了令人瞩目的成就。其强大的理解和生成能力，正在深刻改变我们对人工智能的认知和应用。然而大语言模型的推理应用成本过高，高昂的成本大大阻碍了技术落地。因此，大语言模型的推理性能优化成为业界研究的热点。大语言模型推理面临计算资源的巨大需求和计算效率的挑战。优化推理性能不仅可以减少硬件成本，还可以提高模型的实时响应速度。它使模型能够更快速地执行自然语言理解、翻译、文本生成等任务，从而改善用户体验，加速科学研究，推动各行业应用的发展。本文从推理服务系统全局视角

2025-04-09 约8.69千字 19页立即下载

计算机：大模型-LLM.pdf 大语言模型（LLM）在人工智能中变得越来越重要，在各个行业都有应用。随着对大语言模型专业人才需求的增长，本文提供了一套全面的面试问题和答案，涵盖了基本概念、先进技术和实际应用。一、基础面试问题要理解LLM，重要的是从基本概念开始。这些基础问题涵盖了架构、关键机制和典型挑战等方面，为学习更高级主题提供了坚实的基础。问题1：什么是Transformer架构，它在LLM中是如何使用的？ Transformer架构是Vaswani等人于2017年推出的一种深度学习模型，旨在以比递归神经网络（RNN）和长短期记忆（LSTM）等先前模型更高的效率和性能处理顺序

2025-03-18 约6.71千字 13页立即下载

大语言模型（LLM）上手指南 2025.docx 1 目目录 TABLEOFCONTENTS 01了解大语言模型 02 ?1.1LLM，大在何处 02 ?1.2LLM的发展历程 02 ?1.3LLM的核心应用场景 04 ?1.4多模态LLM 05 02训练大语言模型 07 ?2.1Transformer网络架构 07 ?2.2预训练和微调 08 ?2.3筹备训练环境 08 1003了解GPT 10 ?3.1GPT的优化

2025-05-13 约1.3万字 35页立即下载

大语言模型（LLM）上手指南 2025.docx 1 目目录 TABLEOFCONTENTS 01了解大语言模型 02 ?1.1LLM，大在何处 02 ?1.2LLM的发展历程02 ?1.3LLM的核心应用场景

2025-05-16 约1.46万字 37页立即下载

2025-03-16 约3.39万字 48页立即下载

基于CUDA编程模型的稀疏对角矩阵向量乘优化.pdf

2018-08-28 约小于1千字 10页立即下载

贝叶斯框架下稀疏Logistic回归模型的理论、实践与优化.docx 贝叶斯框架下稀疏Logistic回归模型的理论、实践与优化一、引言 1.1研究背景与动机在当今的数据驱动时代，分类问题作为机器学习和统计学领域的核心任务之一，广泛应用于众多领域。无论是金融领域的信用风险评估、医学领域的疾病诊断，还是市场营销领域的客户分类，准确的分类模型都能为决策提供关键支持，具有重要的现实意义。 Logistic回归模型作为一种经典的分类方法，在分类任务中占据着重要地位。其基本原理是基于Logistic函数，将输入特征的线性组合映射到一个概率值，从而实现对样本类别的预测。以医学领域为例，假设我们要预测患者是否患有某种疾病，Logistic回归模型可以通过分析患者

2025-05-10 约3.66万字 27页立即下载

京东广告稀疏大模型训练与推理GPU优化实践.docx 京东广告稀疏大模型训练与推理GPU优化实践演讲人-李健-京东-算法应用工程师岗 DataFunSummit#2024 目录 CONTENT 01京东广告场景介绍 03京东广告推理场景GPU优化实践 02京东广告训练场景GPU优化实践 04总结 01 京东广告场景介绍 DataFunSummit#2024 京东广告场景介绍京东广告业务场景 ?面向C端用户：毫秒级低延时响应、99.99%高稳定可用率 ?流量规模：百万QPS高并发访问 ?数据规模：亿级别用户、数十亿商品京东广告推理训练框架 ?算子级

2025-05-11 约2.8千字 30页立即下载