Python を使用して Requests ライブラリを使用してクローラを作成する例の詳細な説明-Python チュートリアル-php.cn

Python を使用して Requests ライブラリを使用してクローラを作成する例の詳細な説明

零下一度

リリース： 2017-06-30 18:00:56

オリジナル

2711 人が閲覧しました

基本的な Get リクエスト:

#-*- coding:utf-8 -*-import requests
url = &#39;www.baidu.com&#39;r = requests.get(url)print r.text

ログイン後にコピー

パラメータ付きの Get リクエスト:

#-*- coding:utf-8 -*-import requests
url = &#39;http://www.baidu.com&#39;payload = {&#39;key1&#39;: &#39;value1&#39;, &#39;key2&#39;: &#39;value2&#39;}
r = requests.get(url, params=payload)print r.text

ログイン後にコピー

ログインをシミュレートするための POST リクエストと、オブジェクトを返すいくつかのメソッド:

#-*- coding:utf-8 -*-import requests
url1 = &#39;www.exanple.com/login&#39;#登陆地址url2 = "www.example.com/main"#需要登陆才能访问的地址data={"user":"user","password":"pass"}
headers = { "Accept":"text/html,application/xhtml+xml,application/xml;",            "Accept-Encoding":"gzip",            "Accept-Language":"zh-CN,zh;q=0.8",            "Referer":"www.example.com/",            "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36"
            }
res1 = requests.post(url1, data=data, headers=headers)
res2 = requests.get(url2, cookies=res1.cookies, headers=headers)print res2.conten

ログイン後にコピー

t#バイナリ応答コンテンツを取得 print res2.raw#元の応答コンテンツを取得、ストリーム=Trueprint が必要です res2.raw.read(50)print type(res2.text)#unicode にデコードされたコンテンツを返す print res2.urlprint res2.history#リダイレクトの追跡 print res2.cookiesprint res2.cookies['example_cookie_name']print res2 .headersprint res2 .headers['Content-Type']print res2.headers.get('content-type')print res2.json#コンテンツのエンコーディングを json として返すprint res2.encoding#コンテンツのエンコーディングを返す print res2.status_code#http ステータスを返すcode print res2.raise_for_status()#エラーステータスコードを返す

Session()オブジェクトの書き込みメソッド(準備されたリクエスト):

#-*- coding:utf-8 -*-import requests
s = requests.Session()
url1 = &#39;www.exanple.com/login&#39;#登陆地址url2 = "www.example.com/main"#需要登陆才能访问的地址data={"user":"user","password":"pass"}
headers = { "Accept":"text/html,application/xhtml+xml,application/xml;",            "Accept-Encoding":"gzip",            "Accept-Language":"zh-CN,zh;q=0.8",            "Referer":"http://www.example.com/",            "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36"
            }
prepped1 = requests.Request(&#39;POST&#39;, url1,
    data=data,
    headers=headers
).prepare()
s.send(prepped1)&#39;&#39;&#39;
也可以这样写
res = requests.Request(&#39;POST&#39;, url1,
data=data,
headers=headers
)
prepared = s.prepare_request(res)
# do something with prepped.body
# do something with prepped.headers
s.send(prepared)
&#39;&#39;&#39;prepare2 = requests.Request(&#39;POST&#39;, url2,
    headers=headers
).prepare()
res2 = s.send(prepare2)print res2.content

ログイン後にコピー

別の書き込みメソッド:

#-*- coding:utf-8 -*-import requestss = requests.Session()url1 = &#39;www.exanple.com/login&#39;#登陆地址url2 = "www.example.com/main"#需要登陆才能访问的页面地址data={"user":"user","password":"pass"}headers = { "Accept":"text/html,application/xhtml+xml,application/xml;",            "Accept-Encoding":"gzip",            "Accept-Language":"zh-CN,zh;q=0.8",            "Referer":"http://www.example.com/",            "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36"            }res1 = s.post(url1, data=data)res2 = s.post(url2)print(resp2.content)
SessionApi
其他的一些请求方式
>>> r = requests.put("http://httpbin.org/put")>>> r = requests.delete("http://httpbin.org/delete")>>> r = requests.head("http://httpbin.org/get")>>> r = requests.options("http://httpbin.org/get")

ログイン後にコピー

問題が発生しました:

cmdで実行、小さなエラーが発生しました:

UnicodeEncodeError: 'gbk' コーデックは位置 23460 で文字 u'xbb' をエンコードできません: 不正なマルチバイトシーケンス

分析:
1. Unicode はエンコードですか、それともデコードですか?

明らかにエラーです。エンコード中に発生しました

2. 使用されたエンコード

「gbk」コーデックは文字をエンコードできません

GBK エンコードを使用したエラー

解決策:

現在の文字列 (

#-*- coding:utf-8 -*-import requests
url = &#39;www.baidu.com&#39;r = requests.get(url)print r.encoding
>utf-8

ログイン後にコピー

など) を確認してください

HTML 文字列は UTF-8 なので、UTF-8 を通じて直接エンコードできます。

print r.text.encode('utf-8')

以上がPython を使用して Requests ライブラリを使用してクローラを作成する例の詳細な説明の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。