数据分析应用项目化教程（Python） 课件 项目5 使用pandas进行数据读写

第五章使用pandas进行数据读写

任务5.1文本数据读写df.to_csv()pd.read_csv()pd.read_table()df.to_csv()df.to_csv()，把df对象写入到文本文件，文本文件主要包括csv和txt基本参数：path_or_buf:输出的文件名sep:分隔符，默认为英文逗号（,）na_rep:缺少值的字符串表示形式，默认为空columns:输出的列header（boolean）:是否包含列名index（boolean）:是否包含索引encoding:数据的编码格mode=‘a’：即向csv文件追加数据，按行追加df.read_csv()pd.read_csv()，从文件中加载带分隔符的数据构建df，默认分隔符为逗号基本参数：filepath_or_buffer：可以是文件路径、URL或者是对象sep：分隔符，默认为英文逗号，如果是其它分割方式，则要填写header:指定第一行是否是列名。header=0(表示数据第一行为列名，header=None（表明数据没有列名）index_col:一个字符串列表，指定哪几列作为索引，默认为None。当index_col=False，pandas不再使用首列作为索引。skiprows:跳过多少行再读取数据，通常是数据不太干净，需要去除掉表头才会用到nrows:仅读取多少行，后面的处理也都仅限于读取的这些行df.read_table()从文件中加载带分隔符的数据，默认分隔符为制表符小结df.to_csv()df.read_csv()df.read_table()第五章使用pandas进行数据读写

任务5.2

JSON和Excel数据读写df.to_json和pd.read_jsondf.to_excel和pd.read_exceldf.to_json和pd.read_jsonread_json/to_json：参数orient共六类，控制读写JSON字符串的格式。to_json方法将对象转换为JSON字符串。注意：NaNandNone将转换为null，日期时间对象将转换为UNIXtimestamps。参数orient决定输出JSON的格式：对Series:默认值‘index’，可选择:{‘split’,‘records’,‘index’,‘table’}；对DataFrame:默认值‘columns’，可选择:{‘split’,‘records’,‘index’,‘columns’,‘values’,‘table’}。df.to_json和pd.read_json不同选项对应的JSON字符串格式如下：'split':dictlike{'index':[index],'columns':[columns],'data':[values]}'records':listlike[{column:value},…,{column:value}]'index':dictlike{index:{column:value}}'columns':dictlike{column:{index:value}}'values':justthevaluesarray'table':dictlike{'schema':{schema},'data':{data}}df.to_json和pd.read_json'columns':dictlike{column:{index:value}}df.to_excel和pd.read_excel在读写excel文件时，我们要考虑的一些问题：每个excel文件包含多个表格(sheet)，如何读取一个或者多个表格；每个表格中读取哪些列；是否使用数据第一行作为列标签，第一行是否是正式内容；是否需要指定行的标签。pd.read_excel(io,sheet_name=0,header=0,names=None,index_col=None,usecols=None)io：excel文件sheet_name：返回指定的sheet，如果将sheet_name指定为None，则返回全表，如果需要返回多个表，可以将sheet_name指定为一个列表，例如['sheet1','sheet2']header：指定数据表的表头，默认值为0，即将第一行作为表头。usecols：读取指定的列，usecols=[0,1]表示要读取第1列和第2列数据df.to_excel和pd.read_exceldf1.to_excel("output.xlsx",sheet_name='Sheet_name_1')

#指定写入sheet名小结df.to_json和pd.read_jsondf.to_excel和pd.read_excel第五章使用pandas进行数据读写

任务5.3

数据库数据读写SQL数据库读写NoSQL数据库读写SQL数据库读写创建mysql连接和初始化读写mysql数据库，可以使用sqlalchemy模块或pymysql模块。sqlalchemy模块:实现了与不同数据库的连接，是Python的最有名的ORM框架。pymysql模块:使得Python能够操作MySQL数据库。pipinstallsqlalchemy-i

/simplepipinstallpymysql-i

/simpleSQL数据库读写创建mysql连接和初始化创建表插入数据SQL数据库读写pd.read_sqlPython方式访问数据库构建df

pandas方式访问数据库构建dfSQL数据库读写df.to_sql()df写入数据库NoSQL数据库读写启动和连接服务安装MongoDB驱动mongod.exe--dbpathC:\data\db启动服务器mongo.exe链接服务器showdbs查看有哪些数据库MongoDB创建数据库的语法格式：useDATABASE_NAME#设置MongoDB连接信息client=pymongo.MongoClient(host='',port=27017)#连接MongoDBdb=client['students']#选择数据库collection=db['score']#选择集合NoSQL数据库读写df写入数据库#插入到集合之前，df对象必须转换为字典score=json.loads(df.T.to_json()).values()或#'records':listlike[{column:value},…,{column:value}]df.to_dict(orient='record')#collection.insert_many(score)#批量插入collection.insert_many(df.to_dict(orient='record'))#请自己测试其它对应的JSON字符串格式NoSQL数据库读写读集合构建df#从MongoDB中加载数据到df中data=pd.DataFrame(list(collection.find()))#_id是MongoDB内部索引编号小结SQL数据库