urllib2默认只支持HTTP/HTTPS的GET和POST方法
urllib.urlencode()
urllib和urllib2都是接受URL请求的相关参数,但是提供了不同的功能。两个最显著的不同如下:
- urllib仅可以接受URL,不能创建设置了headers的Request类实例;
- 但是urllib提供了
urlencode
方法用来GET查询字符串的产生,而urllib2则没有。(这是urllib和urllib2经常一起使用的主要原因)- 编码工作使用urllib的
urlencode()
函数,帮我们将key:value
这样的键值对转换成"key=value"
这样的字符串,解码工作可以使用urllib的unquote()
函数。(注意,不是urllib.urlencode())
#-*- coding:utf-8 -*-
#06.urllib2_urlencode.py
import urllib2
import urllib
word = {"wd":"传智播客"}
#通过urllib.urlencode()方法,将字典键值对按URL编码转换,从而能被web服务器接受
encode = urllib.urlencode(word)
print(encode)
#通过urllib.unquote()方法,把URL编码字符串,转换回原始字符串
print(urllib.unquote("wd=%E4%BC%A0%E6%99%BA%E6%92%AD%E5%AE%A2"))
一般HTTP请求提交数据,需要编码成URL编码格式,然后作为url的一部分,或者作为参数传到Request对象中。
Get方式
Get请求一般用于我们向服务器获取数据,比如说,我们用百度搜索传智播客
;https://www.baidu.com/s?wd=传智播客
浏览器的url会跳转如图所示
https://www.baidu.com/s?wd=%E4%BC%A0%E6%99%BA%E6%92%AD%E5%AE%A2
在其中我们可以看到在请求部分里,http://www.baidu.com/s
之后出现一个长长的字符串,其中就包含我门要查询的关键词传智播客,于是我们可以尝试使用默认的Get方式来发送请求。
#-*- coding:utf-8 -*-
#07.urllib2_get.py
import urllib
import urllib2
url = "http://www.baidu.com/s"
word = {"wd":"传智播客"}
word = urllib.urlencode(word) #转换成url编码格式(字符串)
newurl = url + "?" + word
headers = {"User-Agent":"Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"}
request = urllib2.Request(newurl,headers = headers)
response = urllib2.urlopen(request)
print(response.read())
POST方式:
上面我们说了Request请求对象里有data参数,它就是用在POST里,我们要传送的数据就是这个参数data,data是一个字典,里面要匹配键值对。
有道词典翻译网站:
输入测试数据,再通过使用Fiddler观察,其中有一条是POST请求,而向服务器发送的请求数据并不是在url里,那么我们可以试着模拟这个POST请求。
于是,我们可以尝试用POST方式发送请求。
#-*- coding:utf-8 -*-
#09.urllib2_post.py
import urllib
import urllib2
#POST请求的目标URL
url = "http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule&smartresult=ugc&sessionFrom=null"
headers = {"User-Agent":"Mozilla...."}
formate = {
"type":"AUTO",
"i":"i love python",
"doctype":"json",
"xmlVersion":"1.8",
"keyform":"fanyi.web",
"ue":"utf-8",
"action":"FY_BY_ENTER",
"typoResult":"true"
}
data = urllib.urlencode(formate)
request = urllib2.Request(url, data=data, headers = headers)
response = urllib2.urlopen(request)
print("-"*30)
print(response.read())
发送POST请求时,需要特别注意headers的一些属性:
Content-Length
:是指发送的表单数据长度为144,也就是字符个数是144个;X-Requested-With
:表示Ajax异步请求。Content-Type: application/x-www-form-urlencoded
:表示浏览器提交web表单时,表单数据会按照name1=value1&name2=value2键值对形式进行编码。
问题:为什么有时候POST也能在URL内看到数据?
- GET方式是以直接以链接形式访问,链接中包含了所有参数,服务器端用Request.QueryString获取变量的值。如果包含了密码的话是一种不安全的选择,不过你可以直观地看到自己提交了什么内容。
-
POST则不会在网址上显示所有的参数,服务器端用Request.Form获取提交的数据,在Form提交的时候。但是HTML代码里如果不指定method属性,则默认为GET请求,Form中提交的数据将会附加在url之后,以
?
与url分开- 表单数据可以作为URL字段(method="get")或者HTTP POST(method="post")的方式来发送。比如在下面的HTML代码中,表单数据将因为(method="get")而附加到URL上;
<form action="form_action.asp" method="get"> <p>First name: <input type="text" name="fname" /></p> <p>Last name: <input type="text" name="lname" /></p> <input type="submit" value="Submit" /> </form>