在之前的文章中,以图文的方式详细讲解了Pandas中
groupby
,
merge
以及
map
、
apply
、
applymap
的原理,掌握好这些原理,再在这个基础上进行一些拓展,基本就可以解决绝大部分比较复杂的数据处理操作了。几篇文章如下,想回看的小伙伴可以再重温一下:
Pandas数据处理三板斧——map、apply、applymap详解
Pandas数据分析——超好用的Groupby详解
Pandas数据分析——Merge数据拼接图文详解
提速百倍的Pandas性能优化方法,让你的Pandas飞起来!
这篇文章为大家整理一下实际使用中比较高频的一些用法,当然还会有一篇关于时间序列处理的文章。在这里需要强调一点就是,不建议初学者上来就把Pandas中所有的方法都啃一遍,这样效率太低而且很多方法平时基本用不到,啃下来也容易忘。正确的方式是先把常用的方法先吃透,然后找个项目直接上手,遇到现有方法处理不了的再查看官方文档。
通过”人工智能“的方式,我从官方文档中筛选出一些比较常用的方法,有二十多个,初学者可以先试着把这些吃透了。为了避免过多看不下去,这篇文章就先介绍10个。
用于演示的数据如下:
In [15]: data
Out[15]:
company salary age
0 NaN 43 21
1 A 8 41
2 A 28 26
3 C 42 28
4 A 33 26
5 C 20 18
6 A 48 43
7 B 25 23
8 B 39 18
.head()
作用对象:
Series
和
DataFrame
主要用途:返回
DataFrame
的前N行。当数据量较大时,使用
.head()
可以快速对数据有个大致了解。
#默认返回前5行,N可以自行设定
In [16]: data.head()
Out[16]:
company salary age
0 NaN 43 21
1 A 8 41
2 A 28 26
3 C 42 28
4 A 33 26
.info()
作用对象:
Series
和
DataFrame
主要用途:打印所用数据的一些基本信息,包括索引和列的数据类型和占用的内存大小。
In [17]: data.info()
<class 'pandas.core.frame.DataFrame'>
RangeIndex: 9 entries, 0 to 8
Data columns (total 3 columns):
company 8 non-null object
salary 9 non-null int32
age 9 non-null int32
dtypes: int32(2), object(1)
memory usage: 224.0+ bytes
.describe()
作用对象:
Series
和
DataFrame
主要用途:生成描述性统计汇总,包括数据的计数和百分位数,有助于了解大致的数据分布
# 默认生成数值列的描述性统计
# 使用 include = 'all'生成所有列
In [18]: data.describe()
Out[18]:
salary age
count 9.000000 9.000000
mean 31.777778 27.111111
std 12.804079 9.143911
min 8.000000 18.000000
25% 25.000000 21.000000
50% 33.000000 26.000000
75% 42.000000 28.000000
max 48.000000 43.000000
.value_counts()
作用对象:
Series
主要用途:统计分类变量中每个类的数量,比如
company
中各个公司都有多少人
主要参数:
normalize (
boolean, default False
)
返回各类的占比
sort (
boolean, default True
)
是否对统计结果进行排序
ascending (
boolean, default False
)
是否升序排列
In [19]: data['company'].value_counts()
Out[19]:
Name: company, dtype: int64
# 返回占比情况
In [20]: data['company'].value_counts(normalize=True)
Out[20]:
A 0.50
B 0.25
C 0.25
Name: company, dtype: float64
# 升序排列
In [21]: data['company'].value_counts(ascending=True)
Out[21]:
Name: company, dtype: int64
.isna()
作用对象:
Series
和
DataFrame
主要用途:判断数据是否为缺失值,是的话返回
True
,否的话返回
False
In [22]: data.isna()
Out[22]:
company salary age
0 True False False
1 False False False
2 False False False
3 False False False
4 False False False
5 False False False
6 False False False
7 False False False
8 False False False
.any()
作用对象:
Series
和
DataFrame
主要用途:大多数情况下数据量较大,不可能直接
isna()
后一个一个看是否是缺失值。
any()
和
isna()
结合使用可以判断某一列是否有缺失值。
In [23]: data.isna().any()
Out[23]:
company True
salary False
age False
dtype: bool
.dropna()
作用对象:
Series
和
DataFrame
主要用途:删掉含有缺失值的数据
In [24]: data.dropna()
Out[24]:
company salary age
1 A 8 41
2 A 28 26
3 C 42 28
4 A 33 26
5 C 20 18
6 A 48 43
7 B 25 23
8 B 39 18
.fillna()
作用对象:
Series
和
DataFrame
主要用途:填充缺失数据
主要参数:
value (
scalar, dict, Series, or DataFrame
)
用于填充缺失值的值
method (
{‘backfill’, ‘bfill’, ‘pad’, ‘ffill’, None}, default None
)
缺失值的填充方式,常用的是
bfill
后面的值进行填充,
ffill
用前面的值进行填充
inplace (
boolean, default False
)
是否作用于原对象
In [26]: data.fillna('B')
Out[26]:
company salary age
0 B 43 21
1 A 8 41
2 A 28 26
3 C 42 28
4 A 33 26
5 C 20 18
6 A 48 43
7 B 25 23
8 B 39 18
# 用缺失值后面的值来填充(这里NaN后面是'A')
In [25]: data.fillna(method='bfill')
Out[25]:
company salary age
0 A 43 21
1 A 8 41
2 A 28 26
3 C 42 28
4 A 33 26
5 C 20 18
6 A 48 43
7 B 25 23
8 B 39 18
.sort_index()
作用对象:
Series
和
DataFrame
主要用途:对数据按照索引进行排序
主要参数:
ascending (
boolean, default True
)
是否升序排列
inplace (
boolean, default False
)
是否作用于原对象
# 按索引降序排列
In [27]: data.sort_index(ascending=False)
Out[27]:
company salary age
8 B 39 18
7 B 25 23
6 A 48 43
5 C 20 18
4 A 33 26
3 C 42 28
2 A 28 26
1 A 8 41
0 NaN 43 21
.sort_values()
作用对象:
Series
和
DataFrame
主要用途:对
DataFrame
而言,按照某列进行排序(用
by
参数控制),对
Series
按数据列进行排序。
主要参数:
by (
str or list of str
)
作用于
DataFrame
时需要指定排序的列
ascending (
boolean, default False
)
是否升序排列
In [28]: data.sort_values(by='salary')
Out[28]:
company salary age
1 A 8 41
5 C 20 18
7 B 25 23
2 A 28 26
4 A 33 26
8 B 39 18
3 C 42 28
0 NaN 43 21
6 A 48 43
相关文章:
Pandas数据处理三板斧——map、apply、applymap详解
Pandas数据分析——超好用的Groupby详解
Pandas数据处理——玩转时间序列数据
Pandas数据分析——Merge数据拼接图文详解
Pandas数据处理——盘点那些常用的函数(下)
天秀!Pandas还能用来写爬虫?
提高数据的颜值!一起看看Pandas中的那些Style
提速百倍的Pandas性能优化方法,让你的Pandas飞起来!
转自https://zhuanlan.zhihu.com/p/106722583