大数据采集与预处理课件：数据采集与可视化案例

数据采集与可视化案例 本章学习目标●分析链家二手房的网页结构和内容●使用requests库编写爬虫代码获取指定数据●使用BeautifulSoup实现数据的解析●使用pymysql库实现数据的持久化●使用flask和echarts实现数据可视化7.1任务描述二手房房屋信息的数据采集与可视化，可以有助于多维度直观地了解房屋的综合价值，增强购房者选购房屋的精准性，从而满足购房者的合理住房需求。本综合案例通过分析链家二手房的网页结构和内容，使用requests库和BeautifulSoup库编写和解析自定义的爬虫代码获取字段为：地区(region)、户型(house_type)、面积(area_list)、装修类型(decorate_type)、楼层(floor_type)、房屋类型(building_type)、售价(total_price)、单价(avg_price)的数据。最后，使用pymysql库在MYSQL数据库管理系统中创建指定的数据库test和数据表lianjia，实现数据的持久化存储。。7.2.1Flask概述Flask是Python的API，允许我们构建Web应用程序。它是由阿明·罗纳赫开发的。Flask的框架比Django的框架更明确，也更容易学习，因为它实现简单Web应用程序的基础代码更少。Web应用程序框架或Web框架是模块和库的集合，可帮助开发人员编写应用程序，而无需编写协议、线程管理等低级代码。Flask基于WSGI（Web服务器网关接口）工具包和Jinja2模板引擎。7.2数据可视化技术WSGIWeb服务器网关接口(WSGI)已被采用作为PythonWeb应用程序开发的标准。WSGI是Web服务器和Web应用程序之间通用接口的规范。Werkzeug是一个WSGI工具包，它实现了请求、响应对象和其他实用功能。这使得能够在其之上构建Web框架。jinja2是一个流行的Python模板引擎。Web模板系统将模板与特定数据源结合起来以呈现动态网页。接下来我们创建一个简单的Flask应用，保存为flask_test.py，其中Flask中的route()装饰器用于将URL绑定到hello_world函数，函数的返回值最终会显示在网页中。fromflaskimportFlask

app=Flask(__name__)@app.route('/')defhello_world():return'HelloWorld'if__name__=='__main__':app.run()在Pycharm中运行flask_test.py，我们将得到如下输出，如图7-1所示。图7-1flask_test.py输出界面然后打开chrome浏览器，在地址栏输入:5000/，将看到网页上显示helloworld，说明Flask成功运行。如图7-2所示。图7-2Flask运行成功

数据采集与可视化案例 本章学习目标●分析链家二手房的网页结构和内容●使用requests库编写爬虫代码获取指定数据●使用BeautifulSoup实现数据的解析●使用pymysql库实现数据的持久化●使用flask和echarts实现数据可视化7.2.2Echarts概述ApacheECharts是一个免费、功能强大的图表和可视化库，提供了一种向商业产品添加直观、交互式和高度可定制的图表的简单方法。它是用纯JavaScript编写的，基于zrender，这是一个全新的轻量级画布库。ECharts提供了常规的折线图，柱状图，散点图，饼图，K线图，用于统计的盒形图，用于地理数据可视化的地图，热力图，线图，用于关系数据可视化的关系图，多维数据可视化的平行坐标，还有用于BI的漏斗图，仪表盘，并且支持图与图之间的混搭。7.2.2Echarts概述允许用户对统计数据进行有效的提取、整合，甚至在多个图表间交换数据，赋予了用户对数据进行挖掘、整合的能力。7.2.2Echarts概述数据视图7.2.2Echarts概述动态类型切换7.2.2Echarts概述提供了方便快捷的多维度图例开关，可以随时切换到你所关心的数据系列。7.2.2Echarts概述数据可以是无限的，但显示空间总是有限的，数据区域选择组件提供了大数据量中漫游的能力，让用户选择并呈现他所关心的数据区域。7.2.2Echarts概述基于坐标的图表（如地图、散点图）通过色彩变化表现数值的大小能直观形象的展示数据分布。7.2.2Echarts概述ECharts发明了基于像素的大规模散点图（专利），一个900x400的散点区域就能够毫不重复的呈现36万组数据，这对于常规的应用，用