阅读量:0
文章目录
1 概述
1.1 pandas 和 openpyxl 区别
- Python 中的 pandas 和 openpyxl 库,均可以处理 excel 文件,其中主要区别:
- pandas:① 数据操作和分析方面表现优异。它提供了各种文件格式(包括 Excel)中读取数据的函数,在过滤数据、汇总数据、处理缺失值和执行其它数据转换任务方便,特别有用。② 使用方便。DataFrame 对象,使用快速方便,且功能十分强大。
- openpyxl:侧重单元格格式设置。这个库也允许我们直接处理 Excel 文件。pandas 快,但 pandas 做不了的事情,可以让 openpyxl 来做,例如:单元格注释、填充背景色 等等
1.2 Series 和 DataFrame
- Series:连续。可理解为 “一维数组”,由一行 或 一列 组成,具体是行,还是列,由 DataFrame 指定
- DataFrame:数据框。可理解为 “二维数组”,由行和列组成
import pandas as pd # Series 示例 s = pd.Series(['a', 'b', 'c'], index=[1, 2, 3], name='A') print(s) # 1 a # 2 b # 3 c # Name: A, dtype: object # DataFrame 示例 s1 = pd.Series(['a', 'b', 'c'], index=[1, 2, 3], name='A') s2 = pd.Series(['aa', 'bb', 'cc'], index=[1, 2, 3], name='B') s3 = pd.Series(['aaa', 'bbb', 'ccc'], index=[1, 2, 3], name='C') # 方式1:指定 Series 为行 df = pd.DataFrame([s1, s2, s3]) print(df) # 1 2 3 # A a b c # B aa bb cc # C aaa bbb ccc # 方式2:指定 Series 为列 df = pd.DataFrame({s1.name: s1, s2.name: s2, s3.name: s3}) print(df) # A B C # 1 a aa aaa # 2 b bb bbb # 3 c cc ccc
2 常用操作
2.1 创建 Excel:to_excel()
import pandas as pd # 测试数据 data = {'ID': [1, 2, 3], 'Name': ['张三', '李四', '王五']} # 1.创建 DataFrame 对象 df = pd.DataFrame(data=data) # 可选操作。将 ID 设为索引,若不设置,会使用默认索引 narray(n) df = df.set_index('ID') # 写法1 # df.set_index('ID', inplace=True) # 写法2 # 2.写入 excel 至指定位置(若文件已存在,则覆盖) df.to_excel(r'C:\Users\Administrator\Desktop\Temp\1.xlsx')
指定索引前后,效果对比:
2.2 读取 Excel:read_excel()
import pandas as pd # 1.读取 excel。默认读取第一个 sheet student = pd.read_excel(r'C:\Users\Administrator\Desktop\Temp\1.xlsx') # 2.读取常用属性 print(student.shape) # 形状(行,列) print(student.columns) # 列名
读取指定 sheet:
import pandas as pd # 1.读取指定 sheet 的 excel,以下两种方式等同 student = pd.read_excel(r'C:\Users\Administrator\Desktop\Temp\1.xlsx', sheet_name=1) # student = pd.read_excel(r'C:\Users\Administrator\Desktop\Temp\1.xlsx', sheet_name='Sheet2') # 2.读取常用属性 print(student.shape) # 形状(行,列) print(student.columns) # 列名
2.2.1 header:标题的行索引
场景1:默认。第一行为标题(行索引为 0,即:header=0)
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 1.读取 excel(默认第 1 行为标题,行索引为 0,即:header=0) student = pd.read_excel(filePath) print(student.columns) # Index(['ID', 'Name', 'Age', 'Grade'], dtype='object')
场景2:指定第 n 行为标题
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 场景2:excel 中第 2 行才是我们想要的标题(即:header=1) student = pd.read_excel(filePath, header=1) print(student.columns) # Index(['ID', 'Name', 'Age', 'Grade'], dtype='object')
场景3:没有标题,需要人为给定
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 场景3:excel 中没有标题,需要人为设定 student = pd.read_excel(filePath, header=None) student.columns = ['ID', 'Name', 'Age', 'Grade'] student.set_index('ID', inplace=True) # 指定索引列,并替换原数据 student.to_excel(filePath) # 写入至 Excel print(student) # Name Age Grade # ID # 1 张三 18 90 # 2 李四 20 70 # 3 王五 21 80 # 4 赵六 19 90
2.2.2 index_col:索引列
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 读取 Excel,不指定索引列(会默认新增一个索引列,从 0 开始) student = pd.read_excel(filePath) print(student) # ID Name Age Grade # 0 1 张三 18 90 # 1 2 李四 20 70 # 2 3 王五 21 80 # 3 4 赵六 19 90 # 读取 Excel,指定索引列 student = pd.read_excel(filePath, index_col='ID') print(student) # Name Age Grade # ID # 1 张三 18 90 # 2 李四 20 70 # 3 王五 21 80 # 4 赵六 19 90
索引相关:
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 1.读取 excel,并指定索引列 student = pd.read_excel(filePath, index_col='ID')
2.2.3 dtype:数据类型
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 1.读取 excel 并指定 数据类型 student = pd.read_excel(filePath, dtype={'ID': str, 'Name': str, 'Age': int, 'Grade': float}) print(student) # ID Name Age Grade # 0 1 张三 18 90.0 # 1 2 李四 20 70.0 # 2 3 王五 21 80.0 # 3 4 赵六 19 90.0
2.2.4 skiprows:跳过的行数
- 比如:Excel 中有空行,如下图
- 实际的数据是在第 3 行,所以要跳过前 2 行
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' student = pd.read_excel(filePath, skiprows=2) print(student) # ID Name Age Grade # 0 1 张三 18 90 # 1 2 李四 20 70 # 2 3 王五 21 80 # 3 4 赵六 19 90
2.2.5 usercols:指定列数
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 读取 Excel B - D 列(均包含) student = pd.read_excel(filePath, usecols='B:D') print(student) # Name Age Grade # 0 张三 18 90 # 1 李四 20 70 # 2 王五 21 80 # 3 赵六 19 90
2.2.6 head(n)、tail(n):读取前、后 n 行数据
- 有时候,excel 数据量很大,读取全部会很耗时,也没必要
- 咱测试时,仅读取部分行即可
import pandas as pd # 1.读取 excel student = pd.read_excel(r'C:\Users\Administrator\Desktop\Temp\1.xlsx') # 读取前 3 行数据(默认 5 行) print(student.head(3)) # 读取后 3 行数据(默认 5 行) print(student.tail(3))
2.3 读写数据
2.3.1 at():获取单元格
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 1.读取 excel 并指定 索引 student = pd.read_excel(filePath, index_col=None) for i in person.index: # 读写单元格:ID列,i行 的数据 student['ID'].at[i] = i + 2 print(student)
2.3.2 loc[]:数据筛选
import pandas as pd def age_18_to_20(age): return 18 <= age <= 20 def grade_good(grade): return 90 <= grade <= 100 # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 1.读取 excel 并指定 索引 student = pd.read_excel(filePath, index_col='ID') student = student.loc[student['Age'].apply(age_18_to_20)].loc[student['Grade'].apply(grade_good)] print(student)
2.3.3 sort_values():数据排序
import pandas as pd # 文件路径 filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' # 1.读取 excel 并指定 索引 student = pd.read_excel(filePath, index_col='ID') # 功能:排序 # by:待排序的字段 # ascending:顺序(True) 还是 逆序(False) # inplace:是否替换当前对象 # 方式1:排序单个字段 student.sort_values(by='Grade', ascending=False, inplace=True) print(student) # Name Grade # ID # 1 张三 90 # 4 赵六 90 # 3 王五 80 # 2 李四 70 # 方式2:排序多个字段,如:先顺序排列 Grade, 后逆序排列 ID student.sort_values(by=['Grade', 'ID'], ascending=[True, False], inplace=True) print(student) # Name Grade # ID # 2 李四 70 # 3 王五 80 # 4 赵六 90 # 1 张三 90
3 实战
3.1 遍历 Excel
import pandas as pd def read_excel(excel_name): data = pd.read_excel(excel_name) for row in data.itertuples(): # Index:索引, Name:字段名 print(row.Index, row.Name) if __name__ == '__main__': filePath = r'C:\Users\Administrator\Desktop\Temp\1.xlsx' read_excel(filePath)