這篇文章主要為大家詳細介紹了Python網絡爬蟲出現亂碼問題的解決方法,具有一定的參考價值,感興趣的小伙伴們可以參考一下
關於爬蟲亂碼有很多各式各樣的問題,這裡不只是中文亂碼,編碼轉換、還包括一些如日文、韓文、俄文、藏文之類的亂碼處理,因為解決方式是一致的,故在此統一說明。
網路爬蟲出現亂碼的原因
來源網頁編碼和爬取下來後的編碼格式不一致。
如來源網頁為gbk編碼的位元組流,而我們抓取下後程式直接使用utf-8進行編碼並輸出到儲存檔案中,這必然會引起亂碼即當來源網頁編碼和抓取下來後程式直接使用處理編碼一致時,則不會出現亂碼; 此時再進行統一的字符編碼也就不會出現亂碼了
注意區分
源網編碼A、
編碼B、
統一轉換字元的編碼C。
亂碼的解決方法
1.http header的Content-Type
3.網頁頭中Document定義