《大数据导论》课件——3.3.2正则表达式解析数据.pptx

大数据导论

数据采集基于正则表达式的数据爬取

目录01任务描述02HTML源代码分析03抓取代码实现

任务描述在爬虫的开发中，需要把有用的信息从一大段文本中提取出来。正则表达式是提取信息的方法之一。本任务是使用Python正则表达式匹配豆瓣电影评分TOP250页面电影名字、电影介绍链接、电影评分等信息。思路如下：（1）引入使用正则表达式所需要的包。（2）模拟浏览器请求，请求豆瓣电影TOP250的数据。（3）使用compile方法，匹配出目标内容。（关键编写正确的正则表达式）

HTML源代码分析lidivclass=item***************divclass=infodivclass=hdahref=https:///subject/1292052/class=spanclass=title肖申克的救赎/span******************/a*******************divclass=star*************************spanclass=rating_numproperty=v:average9.7/span******************/div********************/div/div/div/lili.*?divclass=hd\n\s*?ahref=(.*?)class=.*?class=title(.*?)/span.*?property=v:average(.*?)/span.*?/li匹配正则表达式*颜色对应

爬取功能划分由于待解析的内容属于文本，因此可以使用正则表达式进行解析解析html文本内容从服务器获取html文档返回文本形式的内容获取html文档依次访问所有页面多页面读取调度

爬取代码实现多页面读取调度

爬取代码实现获取网页文本内容

爬取代码实现解析html文本内容

谢谢观看