首頁 > 後端開發 > Python教學 > python 採集中文亂碼問題的方法

python 採集中文亂碼問題的方法

高洛峰
發布: 2017-02-24 15:31:42
原創
1433 人瀏覽過

最近幾日遇到採集某網頁的時候大部分網頁OK,少部分網頁出現亂碼的問題,調試了幾日,終於發現了是含有一些非法字符造成的..特此記錄

#1. 在正常情況下..可以用

import chardet

thischarset = chardet.detect(strs)["encoding"]
登入後複製

來取得該檔案或頁面的編碼方式

或直接抓取頁面的charset = xxxx 來取得

2. 遇到內容中有特殊字元時指定的編碼一樣會造成亂碼..即內容中非法字元造成的,可以採用編碼忽略非法字元的方式來處理.

strs = strs.decode("UTF-8","ignore").encode("UTF-8")
登入後複製

decode的第二個參數表示遇到非法字元時所採取的方式

此參數預設為拋出異常.

以上就是小編為大家帶來的python 採集中文亂碼問題的完美解決方法的全部內容了,希望對大家有所幫助,多多支持PHP中文網

更多python 採集中文亂碼問題的方法相關文章請關注PHP中文網!

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板