摘要
进行数据分析时,GroupBy分组统计是非常常用的操作,也是十分重要的操作之一。基本上大部分的数据分析都会用到该操作,本文将对Python的GroupBy分组统计操作进行讲解。
码字不易,喜欢请点赞,谢谢!!!
1.GroupBy过程
首先看看分组聚合的过程,主要包括拆分(split)、应用(Apply)和合并(Combine)
2.创建DataFrame
import pandas as pd
ipl_data = {'Team': ['Riders', 'Riders', 'Devils', 'Devils', 'Kings',
'kings', 'Kings', 'Kings', 'Riders', 'Royals', 'Royals', 'Riders'],
'Rank': [1, 2, 2, 3, 3,4 ,1 ,1,2 , 4,1,2],
'Year': [2014,2015,2014,2015,2014,2015,2016,2017,2016,2014,2015,2017],
'Points':[876,789,863,673,741,812,756,788,694,701,804,690]}
df = pd.DataFrame(ipl_data)
df
3.将df按照Team列分组
分组之后的grouped是个DataFrameGroupBy对象
grouped = df.groupby('Team')
grouped
4.查看df按照Team分组之后结果
按照不同的Team值来分组
5.分组后的结果对Points求和
分组后常用操作包括:求和(sum)、平均值(mean)、计数(count)等等,如下图。
6.根据任意长度适当的数组分组
import numpy as np
key1 = np.array(list('abababbaaabb'))
df.groupby(key1).Team.count()
7.对分组进行迭代
GroupBy分组产生的是一组二元元组,有分组名和数据块组成。即(分组名、数据块)。
for name,group in df.groupby('Team'):
print(name)
print(group)
print('*******分隔符*********')
另外,对于多重建分组的情况,元组的第一个元素将是由元组组成。
即((分组名1,分组名2)、数据块)。
for (name1,name2),group in df.groupby(['Team','Rank']):
print(name1)
print(name2)
print(group)
print('*******分隔符*********')
图片结果太长,只显示了部分。
8.在不同轴上分组
GroupBy默认是在axis=0轴上进行分组的,也可以在axis=1轴上进行分组聚合,不过用的相对较少。
grouped = df.groupby(df.dtypes, axis=1)
grouped.groups
9.通过字典或Series进行分组
people = pd.DataFrame(np.random.randn(5, 5),
columns=['a', 'b', 'c', 'd', 'e'],
index=['Joe', 'Steve', 'Wes', 'Jim','Travis'])
people.iloc[2:3, [1, 2]] = np.nan
people
根据字典聚合
mapping = {'a': 'red', 'b': 'red', 'c': 'blue',
'd': 'blue', 'e': 'red', 'f' : 'orange'}
by_column = people.groupby(mapping, axis=1)
by_column.sum()
根据Series聚合
map_series = pd.Series(mapping)
people.groupby(map_series, axis=1).count()
10.通过函数进行分组
people.groupby(len).sum()
11.函数、数组、列表、字典、Series组合分组
key_list = ['one', 'one', 'one', 'two', 'two']
people.groupby([len, key_list]).min()
12.根据索引级别分组
回到最初的DataFrame,给他重新定义成双层索引,并且给索引命名
df.columns = ([['a','a','a','b'],['Team', 'Rank', 'Year', 'Points']])
df.columns.names = ['one','two']
df
之后对索引名为one的进行分组聚合
df.groupby(level='one',axis=1).count()
12.多函数聚合
其中多函数聚合中也可以使用自定义函数。
df.columns = ['Team','Rank','Year','Points']
df.groupby('Team')['Points'].agg(['sum','mean','std'])
13.apply:一般性的“拆分-应用-合并”
定义函数:
def top(df,n=2,column='Points'):
return df.sort_index(by=column,ascending=False)[:n]
应用:
df.groupby('Team').apply(top)
同时给apply函数传入参数:
df.groupby('Team').apply(top,n=3)