基于信息量法的数据处理方法研究.docx

基于信息量法的数据处理方法研究

目录

内容概览．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

1.1研究背景与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．6

1.1.1信息时代数据爆炸现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

1.1.2信息量法应用价值探讨．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．8

1.2国内外研究现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．9

1.2.1信息量法发展历程概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

1.2.2数据处理方法研究进展．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．12

1.3研究内容与目标．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

1.3.1主要研究内容界定．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

1.3.2具体研究目标设定．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．15

1.4研究方法与技术路线．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．15

1.4.1采用的研究方法论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．16

1.4.2技术实现路线图．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

信息量法理论基础．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．18

2.1信息量概念界定．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．19

2.1.1信息量定义与内涵．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

2.1.2信息量度量方式．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．21

2.2信息量相关理论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．23

2.2.1概率论基础．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．29

2.2.2熵理论应用．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．30

2.3信息量法与其他度量方法比较．．．．．．．．．．．．．．．．．．．．．．．．．．．．31

2.3.1信息熵与其他熵的比较．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．32

2.3.2信息量法优势分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．34

基于信息量法的数据预处理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．35

3.1数据噪声处理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．36

3.1.1数据噪声类型识别．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．36

3.1.2基于信息量的噪声过滤．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．38

3.2数据缺失值填补．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．39

3.2.1缺失值影响分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．43

3.2.2信息量引导的填补方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．44

3.3数据标准化与归一化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．45

3.3.1数据尺度问题．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．46

3.3.2基于信息量的数据转换．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．48

基于信息量法的数据特征选择．．．．．．．．．．．．．．．．．．．．．．．．．．．．．49

4.1特征选择重要性．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．50

4.1.1特征冗余问题．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．52

4.1.2特征选择对模型的影响．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．53

4.2特征选择算法概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．