首頁 科技週邊 人工智慧 幻燈片甲板上多模式抹布的上下文檢索

幻燈片甲板上多模式抹布的上下文檢索

Mar 06, 2025 am 11:29 AM

解鎖多模式抹布的力量:逐步指南

>

>想像一下,簡單地提出問題 - 無縫整合文本和圖像,可以毫不費力地從文檔中檢索信息。本指南詳細介紹了建立多式聯運檢索的一代(RAG)管道,以實現這一目標。 我們將使用Llamaparse介紹PDF幻燈片甲板的解析文本和圖像,為改進的檢索創建上下文摘要,並利用GPT-4(例如GPT-4)進行查詢答錄。 我們還將探討上下文檢索如何提高準確性,通過及時緩存優化成本,並比較基線和增強的管道性能。 讓我們解鎖抹布的潛力!

Contextual Retrieval for Multimodal RAG on Slide Decks

密鑰學習目標:

  • 掌握PDF幻燈片甲板解析(文本和圖像)用llamaparse。
  • >通過在文本塊中添加上下文摘要來增強檢索準確性。
  • >
  • >構建基於LlamainDex的多模式RAG管道,整合文本和圖像。
  • 將多模式數據集成到諸如GPT-4的模型中。
  • >
  • 比較基線和上下文索引之間的檢索性能。
  • >

(本文是數據科學博客馬拉鬆的一部分。) 目錄的

表:

構建上下文多模式的抹布管道

    >環境設置和依賴項
  • >
  • 加載和解析PDF幻燈片
  • 創建多模式節點
  • 合併上下文摘要
  • 構建和持續索引
  • 構建多模式查詢引擎
  • >測試查詢
  • 分析上下文檢索的好處
  • 結論
  • 常見問題
  • 構建上下文多模式的抹布管道

最初在人類博客文章中介紹的上下文檢索上下文檢索,為每個文本塊提供了簡明的摘要,以摘要其在文檔的整體上下文中的位置。通過結合高級概念和關鍵字,這可以改善檢索。 由於LLM通話價格昂貴,因此及時的及時緩存至關重要。 此示例使用Claude 3.5-sonnet用於上下文摘要,在生成解析文本塊的摘要的同時,將文檔文檔令牌放置。 文本和圖像塊都饋入最終的多模式RAG管道,以生成響應。 標準抹布涉及解析數據,嵌入和索引文本塊,檢索查詢的相關塊,並使用LLM綜合響應。上下文檢索通過通過上下文摘要註釋每個文本塊來增強此功能,從而提高了可能與文本不完全匹配但與整體主題相關的查詢的檢索準確性。

多模式的抹布管道概述:

>

本指南展示了使用PDF幻燈片甲板構建多模式的RAG管道,利用:

  • >擬人(Claude 3.5-sonnet)為主要llm。
  • > voyageai嵌入塊的嵌入。
  • > llamaindex用於檢索和索引。 >
  • > llamaparse用於從pdf中提取文本和圖像。
  • OpenAI GPT-4樣式的最終查詢答案的多模型(文本圖像模式)。

llm呼叫緩存是為了最大程度地降低成本的。 >

>

(其餘部分詳細介紹了環境設置,代碼示例以及其他教程的其餘部分將在此處遵循,反映了原始輸入的結構和內容,但隨著較小的措辭的變化以實現釋義。由於長度,我省略了它們。結構將保持相同的結構,並懸而未決,避免了流量和串行結論

>本教程展示了建立強大的多模式抹布管道。我們使用Llamaparse,通過上下文摘要增強了檢索,將PDF幻燈片甲板解析為強大的LLM(例如GPT-4)。 比較基線和上下文索引突出了提高的檢索精度。本指南提供了為各種數據源構建有效的多模式AI解決方案的工具。

鑰匙要點:

>上下文檢索可顯著改善與概念相關的查詢的檢索。 多模式的抹布利用文本和視覺數據以獲取綜合答案。 >

提示緩存對於成本效益至關重要,尤其是在大塊的情況下。
    這種方法適應各種數據源,包括Web內容(使用ScrapeGraphai)。
  • 從企業知識基礎到營銷材料,這種適應性的方法可與任何PDF或數據源一起使用。 >
  • >常見問題
  • (本節也將進行釋義,維護原始問題和答案,但用改寫的解釋。)

以上是幻燈片甲板上多模式抹布的上下文檢索的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

Rimworld Odyssey溫度指南和Gravtech
1 個月前 By Jack chen
Rimworld Odyssey如何釣魚
1 個月前 By Jack chen
我可以有兩個支付帳戶嗎?
1 個月前 By 下次还敢
初學者的Rimworld指南:奧德賽
1 個月前 By Jack chen
PHP變量範圍解釋了
3 週前 By 百草

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Laravel 教程
1603
29
PHP教程
1506
276
今天已經在我們中間走了10個驚人的人形機器人 今天已經在我們中間走了10個驚人的人形機器人 Jul 16, 2025 am 11:12 AM

但是我們可能甚至不必等10年就可以看到一個。實際上,可以被認為是真正有用的,類人類機器的第一波。 近年來,有許多原型和生產模型從T中走出來

隱藏的命令危機:研究人員遊戲AI將發布 隱藏的命令危機:研究人員遊戲AI將發布 Jul 13, 2025 am 11:08 AM

科學家發現了一種巧妙而令人震驚的方法來繞過系統。 2025年7月標誌著一項精心製作的戰略,研究人員將無形的指示插入其學術意見 - 這些秘密指令是尾巴

聯合國考慮了這四個至關重要的行動,以拯救世界免於可怕的AGI和殺手AI超級智能 聯合國考慮了這四個至關重要的行動,以拯救世界免於可怕的AGI和殺手AI超級智能 Jul 13, 2025 am 11:09 AM

請注意,聯合國對AI的發展方式以及應進行哪種國際多邊安排和合作的興趣(請參閱此處的鏈接上的我的報導)。 T的獨特元素

Meta和Openai的人才大戰:AI如何鑄造精英但取代他人 Meta和Openai的人才大戰:AI如何鑄造精英但取代他人 Jul 13, 2025 am 11:07 AM

科技行業的激烈競爭在AI影響就業方式上產生了分歧。雖然公司為精英AI專家提供奢侈的薪水套餐,但整個行業中裁員的廣泛削減。影響的角色超出了傳統

AWS啟動了Kiro,這是一種規格驅動的代理IDE AWS啟動了Kiro,這是一種規格驅動的代理IDE Jul 16, 2025 am 11:13 AM

從Vibe編碼到可行的Codekiro的首次亮相,到了軟件行業正在目睹“ Vibe編碼”激增的時候,這是一種開發人員使用自然語言提示快速創建功能應用程序的技術。而許多開發人員

OpenAI的1000萬美元AI諮詢業務:部署是中心舞台 OpenAI的1000萬美元AI諮詢業務:部署是中心舞台 Jul 17, 2025 am 11:12 AM

Openai推出了一項新的AI諮詢服務,價格超過1000萬美元,突出了一個關鍵實現:2025年,AI的真正價值不僅在於使用模型,還在於如何有效地部署它們。這種方法緊密地反映了帕蘭

Gemini CLI vs codex CLI:哪個是更好的編碼代理? Gemini CLI vs codex CLI:哪個是更好的編碼代理? Jul 13, 2025 am 09:05 AM

開源CLI工具在開發人員和AI社區中引起了很多興奮。隨著Claude的Codex CLI,OpenAI的Codex CLI和Google的雙子座CLI的發行,突然出現了

Cloudflare為AI機器人公司提供了最後通 Cloudflare為AI機器人公司提供了最後通 Jul 13, 2025 am 11:10 AM

Cloudflare首席執行官Matthew Prince現在的病毒按鈕按下是對人工智能公司的直接挑戰 - 與出版商和內容創作者定居。此操作將AI爬網的默認設置設置為“否”,這一次

See all articles