이 글은 주로 Beautiful Soup 모듈을 사용하여 객체를 생성하는 관련 정보를 소개합니다. 글의 소개는 매우 자세하게 설명되어 있어 필요한 모든 사람이 참조할 수 있습니다.
설치
pip를 통해 Beautiful Soup 모듈을 설치합니다: pip install beautifulsoup4
.
PyCharm IDE를 사용하여 PyCharm의 환경 설정에서 프로젝트를 찾아 그 안에 있는 Beautiful Soup 모듈을 검색하여 설치할 수도 있습니다.
BeautifulSoup 개체 만들기
Beautiful Soup 모듈은 웹 페이지에서 데이터를 가져오는 데 널리 사용됩니다. Beautiful Soup 모듈을 사용하여 HTML/XML 문서에서 모든 데이터(예: 웹 페이지의 모든 링크 또는 태그 내의 콘텐츠)를 추출할 수 있습니다.
이를 위해 뷰티플수프는 다양한 객체와 메소드를 제공합니다. 모든 HTML/XML 문서는 다양한 Beautiful Soup 개체로 변환될 수 있으며, 이러한 개체는 서로 다른 속성과 메서드를 갖고 있으며, 우리는 그 개체에서 필요한 데이터를 추출할 수 있습니다.
Beautiful Soup에는 총 세 가지 개체가 있습니다.
BeautifulSoup
태그
NavigableString
BeautifulSoup 객체 생성
BeautifulSoup 객체 생성은 Beautiful Soup의 시작점입니다. 프로젝트.
BeautifulSoup은 컴퓨터의 파일이나 웹 페이지와 같은 문자열이나 파일 유사 객체를 전달할 수 있습니다.
문자열에서 BeautifulSoup 개체 만들기
생성자에 문자열을 전달하여 BeautifulSoup 개체를 만듭니다.
helloworld = '<p>Hello World</p>' soup_string = BeautifulSoup(helloworld) print soup_string <html><body><p>Hello World</p></body></html>
파일 유사 객체에서 BeautifulSoup 객체 생성
생성자에 파일 유사 객체를 전달하여 BeautifulSoup 객체를 생성합니다. 이는 온라인 웹페이지를 분석할 때 매우 유용합니다.
url = "http://www.glumes.com" page = urllib2.urlopen(url) soup = BeautifulSoup(page) print soup
파일류 객체를 전달하는 것 외에도 로컬 파일 객체를 BeautifulSoup의 생성자에 전달하여 객체를 생성할 수도 있습니다.
with open('foo.html','r') as foo_file : soup_foo = BeautifulSoup(foo_file) print soup_foo
XML 구문 분석을 위한 BeautifulSoup 객체 생성
Beautiful Soup 모듈은 XML 구문 분석에도 사용할 수 있습니다.
BeautifulSoup 객체를 생성할 때 BeautifulSoup 모듈은 HTML/XML 트리를 생성하기 위해 적절한 TreeBuilder 클래스를 선택합니다. 기본적으로 HTML TreeBuilder 개체가 선택되어 기본 HTML 구문 분석기를 사용하여 HTML 구조 트리를 생성합니다. 위 코드에서 BeautifulSoup 개체는 문자열을 HTML 트리 구조로 구문 분석하여 생성됩니다.
Beautiful Soup 모듈이 입력 콘텐츠를 XML 유형으로 구문 분석하도록 하려면 Beautiful Soup 생성자에 사용되는 기능 매개변수를 정확하게 지정해야 합니다. 기능 매개변수를 지정함으로써 뷰티플수프는 우리가 원하는 기능을 충족시키기 위해 가장 적합한 TreeBuilder 클래스를 선택할 것입니다.
기능 매개변수 이해하기
각 TreeBuilder는 사용하는 파서에 따라 다른 기능을 갖습니다. 따라서 입력 콘텐츠는 생성자에 전달된 기능 매개변수에 따라 다른 결과를 갖게 됩니다.
Beautiful Soup 모듈에서 현재 TreeBuilder가 사용하는 파서는 다음과 같습니다:
lxml
html5lib
html.parser
BeautifulSoup 생성자의 기능 매개변수는 문자열 목록 또는 문자열 값을 허용할 수 있습니다.
현재 각 TreeBuilder에서 지원하는 기능 매개변수와 파서는 다음 표와 같습니다.
Features | TreeBuilder | Parser |
---|---|---|
[‘lxml','html','fast','permissive'] | LXMLTreeBuilder | lxml |
[‘html','html5lib','permissive','strict','html5′] | HTML5TreeBuilder | html5lib |
[‘html','strict','html.parser'] | HTMLParserTreeBuilder | html.parser |
[‘xml','lxml','permissive','fast'] | LXMLTreeBuilderForXML | lxml |
根据指定的 feature 参数,Beautiful Soup 将会选择最合适的 TreeBuilder 类。如果在指定对应的解析器时,出现如下的报错信息,可能就是需要安装对应的解析器了。
bs4.FeatureNotFound: Couldn't find a tree builder with the features you requested: html5lib. Do you need to install a parser library?
就 HTML 文档而言,选择 TreeBuilder 的顺序是基于解析器建立的优先级,就如上表格所示的优先级。首先是 lxml ,其次是 html5lib ,最后才是 html.parser 。例如,我们选择 html 字符串作为 feature 参数,那么如果 lxml 解析器可用,则 Beautiful Soup 模块将会选择 LXMLTreeBuilder 。如果 lxml 不可用,则会选择 根据 html5lib 解析器选择 HTML5TreeBuilder 。如果在不可用,则会选择根据 html.parser 选择 HTMLParserTreeBuilder 了。
至于 XML ,由于 lxml 是唯一的解析器,所以 LXMLTreeBuilderForXML 总是会被选择的。
所以,为 XML 创建一个 Beautiful Soup 对象的代码如下:
helloworld = '<p>Hello World</p>' soup_string = BeautifulSoup(helloworld,features="xml") print soup_string
输入的结果也是 XML 形式的文件 :
在创建 Beautiful Soup 对象时,更好的实践是指定解析器。这是因为,不同的解析器解析的结果内容大不相同,尤其是在我们的 HTML 文档内容非法时,结果更为明显。
当我们创建一个 BeautifulSoup 对象时,Tag 和 NavigableString 对象也就创建了。
创建 Tag 对象
我们可以从 BeautifulSoup 对象中得到 Tag 对象,也就是 HTML/XML 中的标签。
如下 HTML 代码所示:
#!/usr/bin/python # -*- coding:utf-8 -*- from bs4 import BeautifulSoup html_atag = """ <html> <body> <p>Test html a tag example</p> <a href="http://www.glumes.com'>Home</a> <a href="http;//www.glumes.com/index.html'>Blog</a> </body> <html> """ soup = BeautifulSoup(html_atag,'html.parser') atag = soup.a print type(atag) print atag
从结果中可以看到 atag 的类型是
HTML/XML 标签对象具有名称和属性。名称就是标签的名字,例如 标签 的名称就是 a 。属性则是标签的 class 、id 、style 等。Tag 对象允许我们得到 HTML 标签的名称和属性 。
Tag 对象的名称
通过 .name 方式得到 Tag 对象的名称 。
tagname = atag.name print tagname
同时也能够改变 Tag 对象的名称:
atag.name = 'p'