深度对比Python中4大文件处理库(os、shutil、glob、pathlib)
一、开篇
os库
应该是使用频率最高的一个文件处理库,但是不得不说Python中还有几个其它的文件处理库,像
shutil库
、
glob库
、
pathlib库
,它们可以说是相互补充,有着自己好用的方法。黄同学亲切的将它们合称为Python文件处理库的
四大天王
。
今天呢,咋们就对这4个库来个深度对比,对比一下好像学习什么都快了。
二、四大库各自好用的地方
这里采用
文字叙述
为大家讲解这四大模块各自的用法,具体内容会在后面详细介绍。
1. os库
对于os模块来说,这是大家最熟悉的一个库,功能相对很齐全,主要像以下这些功能:
- os.getcwd(): 获取当前的工作路径;
- os.chdir() : 改变当前工作目录到指定的路径;
- os.listdir(path): 传入任意一个path路径,返回的是该路径下所有文件和目录组成的列表;
- os.mkdir(): 创建文件夹;
2. shutil库
shutil库,最主要的功能就是提供了对 文件/文件夹的复制、移动和删除 功能,主要如下:
- shutil.copy(src,dst): 复制文件,src表示源文件,dst表示目标文件夹;
- shutil.copytree(src,dst): 复制文件夹,src表示源文件夹,dst表示目标文件夹;
- shutil.move(src,dst): 移动文件/文件夹,src表示源文件/文件夹,dst表示目标文件夹;
- shutil.rmtree(src): 删除文件夹,src表示源文件夹。区别这里和os模块中remove() 、rmdir()的用法、remove()方法只能删除某个文件,mdir()只能删除某个空文件夹。但是shutil模块中的rmtree()可以递归彻底删除非空文件夹;
3. glob库
glob库,提供了更加便捷的 用来查找符合特定规则的目录和文件 的方法,主要它支持*、**、? 、[ ]这四个通配符。
- *: 匹配0个或多个字符;
- **: 匹配所有文件、目录、子目录和子目录里的文件(3.5版本新增);
- ?: 匹配一个字符;
- []: 匹配指定范围内的字符,如[0-9]匹配数字,[a-z]匹配小写字母;
4. pathlib库
pathlib库中有一些功能超级棒,其中我最喜欢下面这个功能:
- p.name: 获取文件名;
- p.suffix: 获取文件后缀;
有了上述说明,下面详细为大家介绍4个库它们各自的用法。
三、os库
1. 模块的安装和导入
# 导入
import os
2. os.getcwd()
- 作用:获取当前的工作路径;
os.getcwd()
结果如下:
3. os.listdir(path)
-
作用:传入任意一个path路径,返回的是该路径下所有
文件和目录
组成的列表;
path = r"C:\Users\黄伟\Desktop\publish\os模块\test_os模块"
os.listdir(path)
结果如下:
4. os.walk(path)
-
含义 :传入任意一个path路径,深层次遍历指定路径下的所有子文件夹,返回的是一个由路径、文件夹列表、文件列表组成的元组。我代码中写的方式属于
元组拆包
; - 元组拆包: 就是将一个元组中的每个值,赋值给不同的变量;
path = r"C:\Users\黄伟\Desktop\publish\os模块\test_os模块"
for path,dirs,files in os.walk(path):
print(path)
print(dirs)
print(files)
print("\n")
结果如下:
5. os.path.exists(path)
- 含义:传入一个path路径,判断指定路径下的目录是否存在。存在返回True,否则返回False;
path1 = 'C:\\Users\\黄伟\\Desktop\\publish\\os模块\\huang_wei'
if os.path.exists(path1):
print("指定文件夹存在")
else:
print("指定文件夹不存在")
结果如下:
6. os.mkdir(path)
- 含义:传入一个path路径,创建单层(单个)文件夹;
- 注意:如果文件夹已经存在,就会报错。因此创建文件夹之前,需要使用os.path.exists(path)函数判断文件夹是否存在;
os.getcwd()
path1 = os.getcwd()+"\\huang_wei"
os.mkdir(path1)
结果如下:
7. os.makedirs(path)
- 含义:传入一个path路径,生成一个递归的文件夹;
- 注意:如果文件夹存在,就会报错。因此创建文件夹之前,需要使用os.path.exists(path)函数判断文件夹是否存在;
os.getcwd()
path1 = os.getcwd()+"\\huang_wei"
os.mkdir(path1)
结果如下:
8. os.rmdir(path)
- 含义:传入一个path路径,删除指定路径下的文件夹;
- 注意:该方法只能删除空文件夹,删除非空文件夹会报错;
path1 = os.getcwd()+"\\huang_wei"
os.rmdir(path1)
----------------------------------
path2 = os.getcwd()+"\\a\\b\\c"
os.rmdir(path2)
结果如下:
9. os.path.join(path1,path2)
- 含义:传入两个path路径,将该路径拼接起来,形成一个新的完整路径;
path = os.getcwd()
lis = ["a.jpg","b.jpg","c.jpg"]
for i in lis:
x = os.path.join(path,i)
print(x)
结果如下:
10. os.path.split(path)
-
含义:传入一个完整的path路径,将其拆分为
绝对路径
和文件名
2部分;
path1 = r"C:\Users\黄伟\Desktop\publish\os模块\a.jpg"
os.path.split(path1)
结果如下:
11. os.path.dirname(path)
- 含义:传入一个完整的文件路径,只获取其绝对路径;
path1 = r"C:\Users\黄伟\Desktop\publish\os模块\a.jpg"
os.path.dirname(path1)
结果如下:
12. os.path.basename(path)
- 含义:传入一个完整的文件路径,只获取其文件名;
path1 = r"C:\Users\黄伟\Desktop\publish\os模块\a.jpg"
os.path.basename(path1)
结果如下:
13. os.path.isdir(path)
- 含义:传入一个完整的文件路径,判断它是否是文件夹;
path = os.getcwd()
file_list = os.listdir()
for file in file_list:
if os.path.isdir(file):
print(file)
结果如下:
14. os.path.isfile(path)
- 含义:传入一个完整的文件路径,判断它是否是文件;
path = os.getcwd()
file_list = os.listdir()
for file in file_list:
if os.path.isfile(file):
print(file)
结果如下:
15. os.path.sep
- 含义:返回当前操作系统的路径分隔符;
os.path.sep
结果如下:
16. os.path.getsize(path)
- 含义:传入一个完整的文件路径,返回该文件的大小;
os.path.getsize("我创建的压缩包.zip")
结果如下:
四、shutil库
本文所使用的素材,都是基于以下2个文件夹,其中一个文件夹为空。
1. 模块导入
import shutil
2. 复制文件
- 函数:shutil.copy(src,dst)
- 含义:复制文件;
- 参数:src表示源文件,dst表示目标文件夹;
- 注意:当移动到一个不存在的“目标文件夹”,系统会将这个不存在的“目标文件夹”识别为新的文件夹,而不会报错;
# 1.将a表的“data.txt”移动到b表
src = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a\data.txt"
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_b"
shutil.copy(src,dst)
------------------------------------------------------------
# 2.将a表的“data.txt”移动到b表,并重新命名为“new_data.txt”
src = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a\data.txt"
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_b\new_data.txt"
shutil.copy(src,dst)
------------------------------------------------------------
# 3.将a表的“data.txt”移动到“不存在”的文件夹
src = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a\data.txt"
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_c"
shutil.copy(src,dst)
注意:对于情况3,系统会默认将“test_shutil_c”识别为文件名,而不是按照我们认为的,移动到一个新的不存在的文件夹。
"""
结果如下:
3. 复制文件夹
- 函数:shutil.copytree(src,dst)
- 含义:复制文件夹;
- 参数:src表示源文件夹,dst表示目标文件夹;
- 注意:这里只能是移动到一个空文件夹,而不能是包含其他文件的非空文件夹,否则会报错PermissionError;
① 如果目标文件夹中存在其他文件,会报错;
# 将a文件夹移动到b文件夹,由于前面的操作,此时b文件夹中已经有其他文件
src = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a"
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_b"
shutil.copytree(src,dst)
结果如下:
② 如果指定任意一个目标文件夹,则会自动创建;
# c文件夹原本是不存在的,我们使用了下方的代码,会自动创建该文件夹
src = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a"
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_c"
shutil.copytree(src,dst)
结果如下:
4. 移动文件或文件夹
- 函数:shutil.move(src,dst)
- 含义:移动文件/文件夹;-- 参数:src表示源文件/文件夹,dst表示目标文件夹;
- 注意:文件/文件夹一旦被移动了,原来位置的文件/文件夹就没了。目标文件夹不存在时,会报错;
# 将当前工作目录下的“a.xlsx”文件,移动到a文件夹下
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a"
shutil.move("a.xlsx",dst)
----------------------------------------------------------------
# 将a文件夹下的“a.xlsx”文件,移动到b文件夹中,并重新命名为“aa.xlsx”
src = r"C:/Users/黄伟/Desktop/publish/os模块/test_shutil_a\a.xlsx"
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_b\aa.xlsx"
shutil.move(src,dst)
结果如下:
注意:移动文件夹操作类似,我这里就不赘述了,自行下去学习。
5. 删除文件夹(慎用)
- 函数:shutil.rmtree(src)
- 含义:删除文件夹;
- 参数:src表示源文件夹;
- 注意:区别这里和os模块中remove()、rmdir()的用法,remove()方法只能删除某个文件,mdir()只能删除某个空文件夹。但是shutil模块中的rmtree()可以递归彻底删除非空文件夹;
# 将c文件夹彻底删除
src = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_c"
shutil.rmtree(src)
结果如下:
6. 创建和解压压缩包
- zipobj.write():创建一个压缩包;
- zipobj.namelist():读取压缩包中的文件信息;
- zipobj.extract():将压缩包中的单个文件,解压出来;
- zipobj.extractall():将压缩包中所有文件,解压出来;
- shutil 模块对压缩包的处理是调用 ZipFile 和 TarFile这两个模块来进行的,因此需要导入这两个模块;
- 注意:这里所说的压缩包,指的是“.zip”格式的压缩包;
① 创建一个压缩包
import zipfile
import os
file_list = os.listdir(os.getcwd())
# 将上述所有文件,进行打包,使用“w”
with zipfile.ZipFile(r"我创建的压缩包.zip", "w") as zipobj:
for file in file_list:
zipobj.write(file)
结果如下:
② 读取压缩包中的文件信息
import zipfile
with zipfile.ZipFile("我创建的压缩包.zip", "r") as zipobj:
print(zipobj.namelist())
结果如下:
③ 将压缩包中的单个文件,解压出来
- 注意:目标文件夹不存在,会自动创建;
import zipfile
# 将压缩包中的“test.ipynb”文件,单独解压到a文件夹下
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a"
with zipfile.ZipFile("我创建的压缩包.zip", "r") as zipobj:
zipobj.extract("test.ipynb",dst)
结果如下:
④ 将压缩包中所有文件,解压出来;
- 注意:目标文件夹不存在,会自动创建;
import zipfile
# 将压缩包中的所有文件,解压到d文件夹下
dst = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_d"
with zipfile.ZipFile("我创建的压缩包.zip", "r") as zipobj:
zipobj.extractall(dst)
结果如下:
五、glob库
1. 支持4个常用的通配符
使用glob模块能够快速查找我们想要的目录和文件,就是由于它支持
*
、
**
、
?
、
[ ]
这三个通配符,那么它们到底是 什么意思呢?
- *: 匹配0个或多个字符;
- **: 匹配所有文件、目录、子目录和子目录里的文件(3.5版本新增);
- ?: 代匹配一个字符;
- []: 匹配指定范围内的字符,如[0-9]匹配数字,[a-z]匹配小写字母;
- 注意: 这3个通配符的用法,将在讲函数的时候,一起带大家操作一遍;
2. glob库中主要的3个函数
其实glob库很简单,只有3个主要函数供我们使用,它们分别是 glob() 、 iglob() 、 escape() 函数,因此学习起来特别容易。
- glob.glob(): 返回符合匹配条件的所有文件的路径;
- glob.iglob(): 返回一个迭代器对象,需要循环遍历获取每个元素,得到的也是符合匹配条件的所有文件的路径;
- glob.escape(): escape可以忽略所有的特殊字符,就是星号、问号、中括号,用处不大;
-
recursive=False:
代表递归调用,与特殊通配符
“**”
一同使用,默认为False,False表示不递归调用,True表示递归调用;
① glob()函数
path1 = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a\[0-9].png"
glob.glob(path1)
path2 = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a\[0-9a-z].*"
glob.glob(path2)
结果如下:
② iglob()函数
path1 = r"C:\Users\黄伟\Desktop\publish\os模块\test_shutil_a\[0-9].png"
a = glob.iglob(path1)
for i in a:
print(i)
结果如下:
③ escape()函数
通过下方两行代码的对比,可以看出escape()函数只是让
*
只表示它本来的意思,而不再具有通配符的作用。
glob.glob('t*')
glob.escape('t*')
结果如下:
通过上面的叙述可以知道,glob库其实并没有很多东西,就记住
3个通配符
、
3个函数
即可。对于我们来说,glob库就是方便我们查找文件而诞生的,因此我们好好掌握glob()这一个函数,其实就够了,其它的知道、会用就行。
六、pathlib库
在使用之前,需要提前导入pathlib库。