Python怎么实现Excel文件的合并
Python怎么实现Excel文件的合并
本文小编为大家详细介绍“Python怎么实现Excel文件的合并”,内容详细,步骤清晰,细节处理妥当,希望这篇“Python怎么实现Excel文件的合并”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。
一、单目录下面的数据合并
将2020下的所有文件进行合并,成一个文件:
importrequestsimportjsonimportopenpyxlimportdatetimeimportdatetimeasdtimporttimeimportpandasaspdimportcsvfromopenpyxlimportload_workbookfromsqlalchemyimportcreate_engineimportmathimportosimportglob
csv_list=glob.glob(r'D:\Python\03DataAcquisition\COVID-19\2020\*.csv')print("所有数据文件总共有%s"%len(csv_list))foriincsv_list:fr=open(i,"rb").read()#除了第一个数据文件外,其他不读取表头withopen('../output/covid19temp0314.csv','ab')asf:f.write(fr)f.close()print('数据合成完毕!')
合并后的数据:
二、使用函数进行数据合并
##02使用函数进行数据合并importosimportpandasaspd#定义函数(具有递归功能)defmergeFile(parent,path="",pathdeep=0,filelist=[],csvdatadf=pd.DataFrame(),csvdata=pd.DataFrame()):fileAbsPath=os.path.join(parent,path)ifos.path.isdir(fileAbsPath)==True:if(pathdeep!=0and('.ipynb_checkpoints'notinstr(fileAbsPath))):#=0代表没有下一层目录print('--'+path)forfilename2inos.listdir(fileAbsPath):mergeFile(fileAbsPath,filename2,pathdeep=pathdeep+1)else:if(pathdeep==2andpath.endswith(".csv")andos.path.getsize(parent+'/'+path)>0):filelist.append(parent+'/'+path)returnfilelist#D:\Python\03DataAcquisition\COVID-19path=input("请输入数据文件所在目录:")filelist=mergeFile(path)filelistcsvdata=pd.DataFrame()csvdatadf=pd.DataFrame()forminfilelist:csvdata=pd.read_csv(m,encoding='utf-8-sig')csvdatadf=csvdatadf.append(csvdata)#由于2023年的数据还没有,所以不合并
(* ̄(oo) ̄)注: 这个的等待时间应该会比较长,因为一共有一百九十多万条数据。
将合并后的数据进行保存:
csvdatadf.to_csv("covid190314.csv",index=None,encoding='utf-8-sig')
csvdatadf=pd.read_csv("covid190314.csv",encoding='utf-8-sig')csvdatadf.info()
读取新冠疫情在2020/0101之前的数据:
beforedf=pd.read_csv(r'D:\Python\03DataAcquisition\COVID-19\before20201111.csv',encoding='utf-8-sig')
beforedf.info()
将两组数据合并:
tempalldf=beforedf.append(csvdatadf)tempalldf.head()
三、处理港澳台数据
如图所示:要将Country_Region从Hong Kong变成China。澳门和台湾也是如此:
查找有关台湾的数据:
beforedf.loc[beforedf['Country/Region']=='Taiwan']beforedf.loc[beforedf['Country/Region'].str.contains('Taiwan')]
beforedf.loc[beforedf['Country/Region'].str.contains('Taiwan'),'Province/State']='Taiwan'beforedf.loc[beforedf['Province/State']=='Taiwan','Country/Region']='China'beforedf.loc[beforedf['Province/State']=='Taiwan']
香港的数据处理:
beforedf.loc[beforedf['Country/Region'].str.contains('HongKong'),'Province/State']='HongKong'beforedf.loc[beforedf['Province/State']=='HongKong','Country/Region']='China'afterdf.loc[afterdf['Country_Region'].str.contains('HongKong'),'Province_State']='HongKong'afterdf.loc[afterdf['Province_State']=='HongKong','Country_Region']='China'
澳门的数据处理:
beforedf.loc[beforedf['Country/Region'].str.contains('Macau'),'Province/State']='Macau'beforedf.loc[beforedf['Province/State']=='Macau','Country/Region']='China'afterdf.loc[afterdf['Country_Region'].str.contains('Macau'),'Province_State']='Macau'afterdf.loc[afterdf['Province_State']=='Macau','Country_Region']='China'
最终将整理好的数据进行保存:
beforedf.to_csv("beforedf0314.csv",index=None,encoding='utf-8-sig')afterdf.to_csv("afterdf0314.csv",index=None,encoding='utf-8-sig')
读到这里,这篇“Python怎么实现Excel文件的合并”文章已经介绍完毕,想要掌握这篇文章的知识点还需要大家自己动手实践使用过才能领会,如果想了解更多相关内容的文章,欢迎关注恰卡编程网行业资讯频道。
推荐阅读
-
Python 3.12 新特性解析:模式匹配增强与性能优化实战
-
Lightly IDE 深度评测:轻量级 Python 开发工具是否适合团队协作?
-
VS Code 自定义配置:JSON 文件修改、代码片段与任务自动化脚本
-
Python 虚拟环境选择:venv、conda、poetry 的适用场景对比
-
PyCharm+GitHub Copilot:Python 开发中 AI 辅助编码的最佳实践
-
PyCharm 无法识别虚拟环境?5 步排查 Python 解释器配置问题
-
数据科学工具链:Jupyter Notebook+RStudio+Python 的协同工作流
-
Python 3.12 新特性:模式匹配增强与性能改进实战
-
Lightly IDE 适合谁?轻量级 Python 开发工具深度评测
-
Python IDE 终极对比:PyCharm vs VS Code vs Jupyter Notebook