用於程式資料擷取的網頁抓取
開發軟體時,通常需要從外部來源取得資訊。為了從網頁中提取數據,開發人員使用一種稱為網頁抓取的技術。本文示範如何使用 Java 中的 Jsoup 函式庫來實現此目的。
識別和提取元素
要啟動網頁抓取,請識別包含以下內容的特定頁面和元素:所需的資訊。例如,在百思買商品頁面上,您可能需要提取標題、價格和描述。
Jsoup:強大的 HTML 解析器
解析 HTML資料並提取必要的元素,請考慮使用 Jsoup,一種流行的 Java HTML 解析器。它提供了一種操作和檢索網頁元素的便捷方法。
實作基本的網頁抓取範例
以下Java 程式碼示範如何抓取標題和回答者來自您連結的Stack Overflow 問題:
<code class="java">import org.jsoup.Jsoup; import org.jsoup.nodes.Document; import org.jsoup.nodes.Element; import org.jsoup.select.Elements; public class Test { public static void main(String[] args) throws Exception { String url = "https://stackoverflow.com/questions/2835505"; Document document = Jsoup.connect(url).get(); String question = document.select("#question .post-text").text(); System.out.println("Question: " + question); Elements answerers = document.select("#answers .user-details a"); for (Element answerer : answerers) { System.out.println("Answerer: " + answerer.text()); } } }</code>
在此範例中,程式碼建立與指定URL 的連接,解析HTML 回應,並使用選擇器擷取問題文字和回答者清單
解決錯誤
您遇到的錯誤可能源自於使用過時版本的Jsoup。透過更新專案依賴項或引用最新的 Jsoup JAR 文件,確保您使用的是最新版本。
結論
Java 中的 Web 抓取是一項很有價值的技術從網頁中提取資訊。透過利用 Jsoup 等函式庫,開發人員可以有效地檢索特定元素並在自己的應用程式中利用它們。
以上是Java中如何使用Jsoup從網頁擷取程式資料?的詳細內容。更多資訊請關注PHP中文網其他相關文章!