Data-centric LLM training-2024大数据大模型峰会.pdf
Data-centricLLMtraining
“大模型”与“大数据”两者犹如车之双轮,合力驱动数据价值和企业价值的增长。大数据和大模型,作为双核驱动力,正在引领我们迈向更加智能、高效和便捷的时代。
SongxinZhang@SUSTech
July5th,2024
1/26
“大模型”与“大数据”两者犹如车之双轮,合力驱动数据价值和企业价值的增长。大数据和大模型,作为双核驱动力,正在引领我们迈向更加智能、高效和便捷的时代。
LimitofDataScaling
2/26
Intelligenceemergeingwithdatascaling
BLOOM,June,2022176B,0.34Ttokens
0.5
0.5
0.4
0.34
0.3
s
n
“大模型”与“大数据”两者犹如车之双轮,合力驱动数据价值和企业价值的增长。大数据和大模型,作为双核驱动力,正在引领我们迈向更加智能、高效和便捷的时代。
e