pandas 按日期范围筛选数据的实现
作者:M-finder
这篇文章主要介绍了pandas 按日期范围筛选数据的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
pandas 是 python 中一个功能强大的库,这里就不再复述了,简单介绍下用日期范围筛选 pandas 数据。
用来筛选的列是 date 类型,所以这里要把要筛选的日期范围从字符串转成 date 类型
比如我的数据包含列名为 trade_date,从 20050101 - 20190926 的数据,我要筛选出 20050606 - 20071016 的数据,那么,先如下转换数据类型:
s_date = datetime.datetime.strptime('20050606', '%Y%m%d').date()
e_date = datetime.datetime.strptime('20071016', '%Y%m%d').date()
非常简单,一行代码就搞定了:
df = df[(df['tra_date'] >= s_date) & (df['tra_date'] <= e_date)]
多个筛选条件并存时,不能用 and 连接,需要用单个 & 符号。
s_date <= df['trade_date'] <= e_date 等同于 and
pandas提取某段时间范围数据的五种方法
import pandas as pd
#读取文件
df = pd.read_csv('./TianQi.csv')
#获取九月份数据的几种方法
#方法一 使用行索引切片,['2019/9/1':'2019/9/30'],缺点是要求日期必须是连续的。为了方便查看取前5条,以下其他方法均取前5条,由于未进行排序,顺序会有差异
df.set_index('日期',inplace=True)
print(df['2019/9/1':'2019/9/30'].head()) #或者print(df.loc['2019/9/1':'2019/9/30',:])
最高温度 最低温度 天气 风向 风级 空气质量
2019/9/1 33℃ 19℃ 多云~晴 西南风 2级 良
2019/9/2 34℃ 20℃ 晴 南风 2级 良
2019/9/3 33℃ 20℃ 晴 东南风 2级 良
2019/9/7 34℃ 21℃ 晴 西南风 2级 良
2019/9/8 35℃ 22℃ 晴~多云 东北风 2级 良
#方法二 利用列表生成式和startwith('2019/9')生成bool列表,缺点,比较麻烦。
print(df.loc[[True if i.startswith('2019/9') else False for i in df.index.tolist()],:].head())
最高温度 最低温度 天气 风向 风级 空气质量
2019/9/4 32℃ 19℃ 晴 东南风 2级 良
2019/9/5 33℃ 20℃ 晴 东南风 2级 良
2019/9/6 33℃ 20℃ 晴 东南风 1级 良
2019/9/1 33℃ 19℃ 多云~晴 西南风 2级 良
2019/9/2 34℃ 20℃ 晴 南风 2级 良
#方法三 利用pandas的str和startswith('2019/9')|contains('2019/9')。
df1 = pd.read_csv('./TianQi.csv')
print(df1[df1['日期'].str.startswith('2019/9')].head())
日期 最高温度 最低温度 天气 风向 风级 空气质量
243 2019/9/4 32℃ 19℃ 晴 东南风 2级 良
244 2019/9/5 33℃ 20℃ 晴 东南风 2级 良
245 2019/9/6 33℃ 20℃ 晴 东南风 1级 良
246 2019/9/1 33℃ 19℃ 多云~晴 西南风 2级 良
247 2019/9/2 34℃ 20℃ 晴 南风 2级 良
#方法四 讲日期转换成datetime类型
df1['日期'] = pd.to_datetime(df1['日期'])
df1.set_index('日期',inplace=True,drop=True)
#print(df1['2019']) #取2019年数据,或者df.loc['2019']
print(df1['2019/09'].head())
取201909月数据,其他变形写法df['2019-9'] df['2019-09'] df['2019/9'] df.loc['2019-9',:] df.loc['2019-09',:] df.loc['2019/09',:] df.loc['2019/9',:]
最高温度 最低温度 天气 风向 风级 空气质量
2019-09-04 32℃ 19℃ 晴 东南风 2级 良
2019-09-05 33℃ 20℃ 晴 东南风 2级 良
2019-09-06 33℃ 20℃ 晴 东南风 1级 良
2019-09-01 33℃ 19℃ 多云~晴 西南风 2级 良
2019-09-02 34℃ 20℃ 晴 南风 2级 良
#注意如果要获取某一天的数据,则必须使用切片,比如df['2019/9/1':'2019/9/1']
获取一段时间
df1.truncate(after = '2019-9-01') # 返回 after 以前的数据
df1.truncate(before = '2019-9-01') # 返回 before 以后的数据
df1['20190901':'2019/9/10']
#方法五 #读取文件时,通过parse_dates=['日期'],将日期转化为datetime类型,相当于 pd.to_datetime。同时可以使用index_col将那一列作为的行索引,相当有set_index。
df2 = pd.read_csv('./TianQi.csv',parse_dates=['日期'])
df2['年'] = df2['日期'].dt.year
df2['月'] = df2['日期'].dt.month
qstr = "年=='2019' and 月=='9'"
print(df2.query(qstr).head())
日期 最高温度 最低温度 天气 风向 风级 空气质量 年 月
243 2019-09-04 32℃ 19℃ 晴 东南风 2级 良 2019 9
244 2019-09-05 33℃ 20℃ 晴 东南风 2级 良 2019 9
245 2019-09-06 33℃ 20℃ 晴 东南风 1级 良 2019 9
246 2019-09-01 33℃ 19℃ 多云~晴 西南风 2级 良 2019 9
247 2019-09-02 34℃ 20℃ 晴 南风 2级 良 2019 9
dt的其他常用属性和方法如下:
df['日期'].dt.day # 提取日期
df['日期'].dt.year # 提取年份
df['日期'].dt.hour # 提取小时
df['日期'].dt.minute # 提取分钟
df['日期'].dt.second # 提取秒
df['日期'].dt.week # 一年中的第几周
df['日期'].dt.weekday # 返回一周中的星期几,0代表星期一,6代表星期天
df['日期'].dt.dayofyear # 返回一年的第几天
df['日期'].dt.quarter # 得到每个日期分别是第几个季度。
df['日期'].dt.is_month_start # 判断日期是否是每月的第一天
df['日期'].dt.is_month_end # 判断日期是否是每月的最后一天
df['日期'].dt.is_leap_year # 判断是否是闰年
df['日期'].dt.month_name() # 返回月份的英文名称
df['日期'].dt.to_period('Q') # M 表示月份,Q 表示季度,A 表示年度,D 表示按天
df['日期'].dt.weekday_name # 返回星期几的英文 由于pandas版本问题,改变pandas版本在cmd中输入:pip install --upgrade pandas==0.25.3
Series.dt.normalize() # 函数将给定系列对象中的时间转换为午夜。
到此这篇关于pandas 按日期范围筛选数据的实现的文章就介绍到这了,更多相关pandas 日期范围筛选内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
您可能感兴趣的文章:
电脑版
-
返回首页
2006-2023 脚本之家 JB51.Net , All Rights Reserved.
苏ICP备14036222号