【Pandas学习笔记02】处理数据实用操作

作者：幻好

来源：恒生LIGHT云社区

Pandas 是一个 Python 软件库，它提供了大量能使我们快速便捷地处理数据的函数和方法。在本文将主要介绍 Pandas 的实用数据处理操作。

系列文章：

【Pandas学习笔记01】强大的分析结构化数据的工具集

概述

Pandas 是基于 NumPy 构建的库，在数据处理方面可以把它理解为 NumPy 加强版，同时 Pandas 也是一项开源项目。它基于 Cython，因此读取与处理数据非常快，并且还能轻松处理浮点数据中的缺失数据（表示为 NaN）以及非浮点数据。在本文中，基本数据集操作主要介绍了 CSV 与 Excel 的读写方法，基本数据处理主要介绍了缺失值及特征抽取，最后的 DataFrame 操作则主要介绍了函数和排序等方法。

数据集基础操作

• 读取 CSV 格式文件中的数据集

import pandas as pd
# 方式1 
df1 = pd.read_csv(“file.csv”)
# 方式2
df2 = pd.DataFrame.from_csv(“file.csv”)

• 读取 Excel 格式文件中的数据集

import pandas as pd
df = pd.read_excel("file.xlsx")

• 获取基本的数据集特征信息

df.info()

• 查询数据集基本统计信息

print(df.describe())

• 查询所有列的标题名称

print(df.columns)

• 使用 DataFrame 对象将数据写入 CSV 文件

# 采用逗号作为分隔符，且不带索引
df.to_csv("data.csv", sep=",", index=False)

数据集的处理

首先定义一个 DataFrame 数据集：

import pandas as pd

df = pd.DataFrame(data = [['java',1],['python',2],['golang','3']],index = [1,2,3],columns = ['name','rank'])
print(df)

打印数据集：

     name rank
1    java    1
2  python    2
3  golang    3

查询数据操作

• 使用df.loc[index, column] 对具体的行和列的数据进行查询

# 查询指定行和列的数据
df.loc[0,'name']
#选取第0行到第1行，name列和rank列的数据
df.loc[[0,1],['name','age']]
#选取name列是M，name和rank列的数据
df.loc[df['name']=='java',['name','rank']] 

• 通过df['column_name'] 或df[row_start_index, row_end_index] 对整列或一定范围的行数据进行查询

# 选取单列或多列
df['name']
df[['name','rank']] 
#第0行及之后的行
df[0:]   
# 第1行到第2行（不含第3行）
df[1:3]   
# 最后一行
df[-1:]   

增加数据操作

• 向数据集中增加列数据：

# 在第0列，加上 column 名称为 user_num，值为 user_num 的值
user_num = ['100','89','70']
df.insert(0,'user_num',user_num) 

# 默认在df最后一列加上column名称为 application，值为 application 的数据
application = ['Web','AI','server']
df['application'] = application

• 向数据集中增加行数据：

# 若df中没有index为“10”的这一行数据，则新增
# 若df中已经有index为“10”的这一行数据，则更新数据。
df.loc[10] = ['php',10]

# 向df中追加新的数据
new_df = pd.DataFrame(index = True,columns = ['name','rank'])
df = df.append(new_df,ignore_index = True) 

修改数据操作

• 修改列标题

#只把’user_num’改为’users’，要把所有的列全写上，否则报错。
df.columns = ['name', 'rank', 'users'] 
#只修改name,inplace若为True，直接修改df，否则，不修改df，只是返回一个修改后的数据。
df.rename(columns = {'name':'Name'}, inplace = True) 

• 修改数值

# 修改index为‘0’，column为‘name’的那一个值为C
df.loc[0, 'name'] = 'C'  
# 修改index为‘0’的那一行的所有值
df.loc[0] = ['java', 1, '1000']  
# 修改index为‘0’，column为‘name’的那一个值为Java
df.loc[0,['name','rank']] = ['Java'] 
# 替换缺失数据
df.replace(to_replace=None, value=None)

删除数据操作

• 删除行数据

# 删除index值为2和3的两行
df.drop([2,3],axis = 0,inplace = False)

• 删除列数据

# 删除 name 列
df.drop(['name'],axis = 1,inplace = False)  
del df['name']  
# 删除 name 列，操作后，将删除的返回给new_df
new_df = df.pop('age')  

总结

本文主要介绍 Pandas 工具集的实用操作，能够帮助我们解决日常数据处理的基本问题，后续将继续分享高阶技巧，敬请期待。