生成式人工智慧(GenAI)的快速崛起使得企業爭相尋找新的創新方法來利用這項技術在商業應用中的力量。許多企業認為,大型語言模型(LLM)已經重塑了人工智慧驅動的商業應用程式的建構方式,所需要的只是將資料輸入到大型企業的LLM模型中,它就會完成工作。然而,事情並沒有那麼容易
研究和顧問公司Forrester發布了一份新的報告,強調GenAI商業應用需要的不僅僅是一個通用的LLM。即使是最精心調整和提示訓練出來的LLM也可能不足以建立和安全運行基於GenAI的應用程式。這種簡單的方法不允許組織使用他們所有的專有知識來工作。它還存在其他一些風險,包括伸縮性、安全性和成本問題。
Forrester的報告是透過調查15家最大的服務供應商如何使用GenAI來幫助全球2000多家公司來編寫GenAI驅動的業務應用程式。該報告的調查結果表明,企業需要組裝一個「層、門和管道」架構,以安全有效地運行基於GenAI的應用程式。
「層、閘和管道」架構利用許多智慧層的資源,將內部和外部功能結合在一起。它還需要輸入和輸出控制門來保護人員、公司和模型本身。此外,它還需要應用程式管道來提示、嵌入和編排智慧層,以便將請求轉換為輸出。最後,需要測試和學習循環來測試和監視結果並做出相應的調整。
在深入挖掘「層、閘和管道」架構的元素時,報告指出,智慧層包括廣泛的功能,包括通用的、嵌入式的和專門的GenAI模型。
組織應該自己創建和管理的智慧資源包括軟體應用程式、AI/ML模型、私有GenAI模型、結構化和非結構化數據,以及人們的提示和行為。組織應該從供應商取得的情報來源應該包括特定於領域的GenAI模型、公共GenAI工具、綁定的GenAI模型,例如SaaS應用程式。
使用輸入門可以阻止錯誤請求、虛假提示和危險搜尋。它還可以將模糊的請求轉化為可回答的提示。輸出閘根據遵從性需求和安全性等方面幫助驗證問題的輸出
應用程式管道用於將所有這些連接在一起,透過API優先工作流程。它們有助於將資源從智慧層無縫地組合起來,以實現端到端的順暢流動。架構的最後一個要素是透過測試的回饋循環進行測試。它們有助於在應用程式中建立信任、信心和有效性
根據Forrester的報告補充指出,企業現在有機會從不同的部分組裝應用程序,因為他們可以在未來幾年內建構一個完整的體系結構來支援GenAI應用程式。只有透過適當的關注,企業才能充分受益於GenAI業務應用程式的強大功能
#以上是不僅僅依賴龐大模型,建構生成式人工智慧的要求更多的詳細內容。更多資訊請關注PHP中文網其他相關文章!