如何在python项目中使用urllib.request模块
今天就跟大家聊聊有关如何在python项目中使用urllib.request模块,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。
urllib子模块
urllib.request 打开或请求url
urllib.error 捕获处理请求时产生的异常
urllib.parse 解析url
urllib.robotparser 用于解析robots.txt文件
robots.txt是一种存放于网站根目录下文本文件,用来告诉网络爬虫服务器上的那些文件可以被查看。又被成为robots协议,是一种约定俗成的协议。
request模块
function request.urlopen()
urlopen方法用来打开资源url,常用带参数形式urlopen(url,data=None),url:资源url,data:携带的数据。
方法的返回值始终为一个对象,并可以调用相应的方法获取返回的信息。其中对于http及https的url来说会返回一个http.client.HTTPResponse对象;
importurllib.request #我们用本地的一个简单html文件来测试 url='http://127.0.0.1:8848/chenjy/test.html' req=urllib.request.urlopen(url) print(req)
1. read() 返回服务器返回的原始数据;
importurllib.request url='http://127.0.0.1:8848/chenjy/test.html' req=urllib.request.urlopen(url) print(req.read())
我们可以再调用decode()方法来解码。
importurllib.request url='http://127.0.0.1:8848/chenjy/test.html' req=urllib.request.urlopen(url) print(req.read().decode())
2.geturl() 返回获取资源的url;
创建一个测试页
importurllib.request url='http://127.0.0.1:8848/chenjy/test.html' req=urllib.request.urlopen(url) print(req.geturl())
前端重定向
我们在页面中添加js脚本重定向页面window.location.href='http://127.0.0.1:8848/chenjy/test2.html';,会发现访问的时候会重定向到test2,但是geturl还是获取的重定向前的
后端重定向
我们启动一个项目并添加一个拦截器当访问index.html的时候重定向到/ls/html/list.html页面,geturl获取的是重定向后的页面
@Override
publicvoidhandle(Stringtarget,HttpServletRequestrequest,HttpServletResponseresponse,boolean[]isHandled){
intindex=target.lastIndexOf("index.html");
if(index!=-1){
HandlerKit.redirect("/ls/html/list.html",request,response,isHandled);
}
}importurllib.request url='http://localhost:8088/ls/index.html' req=urllib.request.urlopen(url) print(req.geturl())
3.info() 返回页面的元信息;
importurllib.request url='http://127.0.0.1:8848/chenjy/test.html' req=urllib.request.urlopen(url) print(req.info())
4.getcode() 返回页面的状态码;
importurllib.request url='http://127.0.0.1:8848/chenjy/test.html' req=urllib.request.urlopen(url) print(req.getcode())
class request.Request
url请求类 Request(url, data=None, headers={}, origin_req_host=None, unverifiable=False, method=None)
url:请求url
data:请求传参;bytes字节流
headers:请求头
origin_req_host:请求原始主机;不带端口
unverifiable:是否不可验证;
method :请求方法;如GET、POST、PUT等
importurllib.request
#模拟iphone5请求百度手机版页面
url='https://www.baidu.com/'
user_agent='Mozilla/5.0(iPhone;CPUiPhoneOS10_3_1likeMacOSX)AppleWebKit/603.1.30(KHTML,likeGecko)Version/10.0Mobile/14E304Safari/602.1'
headers={
'User-Agent':user_agent
}
#抓取page信息
req=urllib.request.Request(url,headers=headers,method='GET')
page=urllib.request.urlopen(req).read().decode('utf-8')
print(page)看完上述内容,你们对如何在python项目中使用urllib.request模块有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注恰卡编程网行业资讯频道,感谢大家的支持。
推荐阅读
-
一文教你Python如何快速精准抓取网页数据
本文将使用requests和beautifulsoup这两个流行的库来实现。1.准备工作首先安装必要的库:pipinst...
-
使用Python实现IP地址和端口状态检测与监控
-
基于Python打造一个智能单词管理神器
-
Python实现微信自动锁定工具
-
使用Python创建一个功能完整的Windows风格计算器程序
python实现windows系统计算器程序(含高级功能)下面我将介绍如何使用python创建一个功能完整的windows风格计...
-
Python开发文字版随机事件游戏的项目实例
随机事件游戏是一种通过生成不可预测的事件来增强游戏体验的类型。在这类游戏中,玩家必须应对随机发生的情况,这些情况可能会影响他们的资...
-
使用Pandas实现Excel中的数据透视表的项目实践
引言在数据分析中,数据透视表是一种非常强大的工具,它可以帮助我们快速汇总、分析和可视化大量数据。虽然excel提供了内置的数据透...
-
Pandas利用主表更新子表指定列小技巧
一、前言工作的小技巧,利用pandas读取主表和子表,利用主表的指定列,更新子表的指定列。案例:主表:uidname0...
-
Pandas中统计汇总可视化函数plot()的使用
-
Python中tensorflow的argmax()函数的使用小结
在tensorflow中,argmax()函数是一个非常重要的操作,它用于返回给定张量(tensor)沿指定轴的最大值的索引。这个...
