AIxiv專欄是本站發布學術、技術內容的欄位。過去數年，本站AIxiv專欄接收通報了2,000多篇內容，涵蓋全球各大專院校與企業的頂尖實驗室，有效促進了學術交流與傳播。如果您有優秀的工作想要分享，歡迎投稿或聯絡報道。投稿信箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com
本文作者肖鎮中是德國馬克思普朗克-智慧系統研究所和圖賓根大學的博士生，Robert Bamler 是圖賓根大學機器學習方向的教授，Bernhard Schölkopf 是馬克思普朗克-智慧系統研究所的所長，劉威楊是馬普所劍橋大學聯合計畫的研究員。
，我們透過最佳化參數
學到一個函數模型
來精確描述訓練集和測試集中
和
的關係。其中
是基於數值的函數，它的參數
通常是連續空間中的數值向量或矩陣，優化演算法透過計算數值梯度迭代更新從而達到學習的效果。 
，資料
和參數
都是自然語言空間中的字串。在做推理時，我們可以將給定的輸入資料
和參數
提交給 LLM，LLM 的回答就是推理的答案
。
，我們如何得到？在基於數值的傳統機器學習中，我們透過計算損失函數的梯度，將現有的模型參數往損失下降的方向更新，從而得到的最佳化函數:
和
分別為學習率和損失函數。 
和參數都是字串且 LLM 被當作是黑箱的推理引擎，所以我們無法透過數值計算來最佳化。但既然我們已經將 LLM 用作自然語言空間中的通用近似函數去近似模型函數，而的優化器
也是一個函數，我們為何不也用 LLM 去近似它？因此，言語化的最佳化函數可寫
為一個數量為
的批次的訓練資料和模型預測結果，
為最佳化函數的參數（同為自然語言）。 
和優化器
都是透過 LLM 在自然語言空間中進行推理。圖 2 為迴歸任務中模型
和最佳化器
的具體模板範例。 可以在訓練過程中自動對模型的函數族進行選擇；（3）最佳化函數對模型參數的每一步更新都會提供自然語言的解釋，同時模型的描述和推理也是自然語言且可解釋的。 
。在第一步優化時，優化器說它發現🎜比🎜有更大的值域，而且它們似乎存在正相關性，所以它決定將模型更新為簡單的線性迴歸模型。
和
之間存在非線性關係， 因此它決定將模型更新為二次函數。 
都為圖片二分類的定義， 但其中一個添加了一句話“輸入是用於肺炎檢測的X 光圖片”的歸納偏移作為先驗。在訓練了五十步後，兩個模型都達到了 75% 左右的準確度，其中有先驗的模型準確度要稍微高一點點。
以上是不做數值運算、純靠嘴砲也能機器學習？基於自然語言的全新ML範式來了的詳細內容。更多資訊請關注PHP中文網其他相關文章！
