機器學習與微分方程的淺析

WBOY
發布: 2023-04-04 12:10:07
轉載
1277 人瀏覽過

儘管機器學習從20世紀50年代就已經存在,但隨著電腦變得越來越強大,數據在爆炸式增長,使得人們如何利用人工智慧獲得競爭優勢、提高洞察力和成長利潤展開了廣泛的實踐。對於不同的應用場景,機器學習與微分方程式都有廣泛的場景。

大家都已經使用機器學習了,尤其是基於神經網路的深度學習,chatGPT甚囂塵上,還需要深入理解微分方程麼?不論答案是啥,都會牽涉到二者的對比,那麼,機器學習與微分方程的差別又是什麼呢?

從愛情模型的微分方程式說起

機器學習與微分方程的淺析

#這兩個方程式預測了夫妻戀愛關係的長久性,基於心理學家John Gottman 的開創性工作,該模型預測持續的正面情緒是婚姻成功的強大因素。關於模型的更多解讀,可以參考《幸福的婚姻》一書,作者也給了維繫婚姻幸福的7個法則:

  1. 完善你的愛情地圖
  2. #培養你對配偶的喜愛和讚美
  3. 彼此靠近而不是遠離
  4. 讓配偶影響你的決定
  5. 以溫和開場,用妥協收場
  6. 學會和問題和諧相處
  7. 創造共同意義

疫情三年,大家親身經歷,冷暖自知。那麼,如何用微分方程式描述患者與傳染者的關係呢?

機器學習與微分方程的淺析

SIR 模型假設病毒是透過感染者和未感染者之間的直接接觸傳播的,患病者自動以某種固定的速率恢復。

這些微分方程都包含了一些未知函數的導數(即變化率),這些未知函數,例如SIR 模型中的S (t) ,I (t)和R (t) ,稱為該微分方程的解。基於這些方程式的機制,我們可以得到模型的設計方式,而數據稍後將用於驗證我們的假設。

數學模型的分類

類似微分方程這樣的數學模型是預先對系統的基本機制進行假設,建模始於物理學,實際上,整個數學建模領域都始於17世紀對解開行星運動背後的基本動力學的探索。從那時起,基於數學的機制模型開啟了許多現象的關鍵見解,從生物學和工程學到經濟學以及社會科學。這樣的機制模型可以分為基於方程的模型 ,如微分方程,或基於Agent的模型。

機器學習與微分方程的淺析

基於經驗或資料驅動的建模,例如機器學習,是透過豐富的資料來了解系統的結構。機器學習對於複雜的系統特別有用,因為我們真的不知道如何從噪音中分離出訊號,這時候,只要訓練一個聰明的演算法就可以幫助解決難題。

機器學習任務可大致分為以下幾類:

  • #監督式學習(例如,迴歸與分類) ;
  • 非監督式學習(例如,聚類與降維) ;
  • 強化學習

機器學習與微分方程的淺析

#先進的機器學習和人工智慧系統如今在我們的日常生活中無處不在,從基於智慧音箱的會話助手(例如小度)到 各種推薦引擎,再到人臉辨識技術,甚至特斯拉(Tesla)的自動駕駛汽車。所有這些都是由嵌入在堆積如山的程式碼下的數學和統計建模所驅動的。

進一步,可以將這些模型分為「確定性」(預測是固定的)或「隨機性」(預測包括隨機性)的。

確定性模型忽略隨機變量,在相同的起始條件下總是預測相同的結果。一般的,機器學習和基於方程式的模型都是確定性的,輸出總是可預測的。換句話說,輸出完全由輸入決定。

隨機模型透過在模型中引入機率來考慮總體的隨機變化。捕捉這些變化的一種方法是讓每個實體成為模型中單獨的Agent,並為這些Agent定義允許的行為和機制,這些行為和機制具有一定的機率。這些是基於Agent的模型。

然而,對個體行為者進行建模的可實現性是有代價的,而基於代理人的模型則更為現實。由於計算代價的高昂以模型的可解釋性,這激發了數學建模中的一個關鍵概念: 模型複雜度。

機器學習與微分方程的淺析

模型複雜度

模型複雜度的困境是所有建模者都要面對的現實,我們的目標是建構並優化既不太簡單也不太複雜的模型。簡單的模型容易分析,但往往缺乏預測能力。複雜的模型可能是超現實的,但有可能試圖了解複雜問題的背後真相。

我們需要在簡單性和易於分析性之間進行權衡。複雜的機器學習模型在努力學習訊號(即係統的真實結構)的同時排除雜訊(即乾擾)。這導致模型在新數據上表現不佳。換句話說,機器學習模型的普遍性較差。

平衡模型複雜度的微妙行為是一種“藝術”,試圖尋找一個既不太簡單也不太複雜的最佳位置。這個理想的模型可以沖刷掉噪音,捕捉到正在發生的事情的潛在動態,並且是可以合理解釋的。

要注意的是,這意味著一個好的數學模型並不總是正確的。不過沒關係。可推廣性是目標,可以向受眾解釋模型為什麼這麼做,無論他們是學者、工程師或商業領袖。

所有的模型都是錯誤的,但有些是有用的。 ——喬治•博克斯(George Box),1976

在機器學習和統計學中,模型複雜度稱為偏差-方差的折衷。高偏差模型過於簡單,導致擬合不足,而高方差模型記憶雜訊而不是訊號,導致過度擬合。資料科學家努力透過精心選擇訓練演算法和調整相關的超參數來達到這種微妙的平衡。

微分方程與機器學習的對比

在機制建模中,我們在對系統的潛在機製做出假設之前,會仔細地觀察和審查一種現象,然後用資料驗證模型。我們的假設正確嗎?如果是這樣,既然是親自挑選的機制,完全可以向任何人解釋是什麼模型的這種行為。如果假設是錯誤的,那也沒關係,只是浪費了一些時間,沒什麼大不了的。建模畢竟是反覆試驗。修補這些假設,甚至從頭開始。機制模型,通常是微分方程等形式的方程,甚至是基於主體的模型。

在資料驅動建模中,我們是先讓資料開始運作,為我們建立系統的全景。我們要做的就是滿足那台機器的數據質量,希望有足夠的數據。這便是機器學習。如果一般人很難搞清楚一個現象,可以調整一台機器來篩選噪音,為我們學習那難以捉摸的訊號。標準的機器學習任務包括回歸和分類,它們使用一系列度量標準進行評估。神經網路和強化學習也已經流行了起來,它們能夠創建模型並學習令人驚嘆的複雜訊號。

儘管機器學習從20世紀50年代就已經存在,但隨著電腦變得越來越強大,資料正在爆炸式增長,使得人們如何利用人工智慧獲得競爭優勢、提高洞察力和成長利潤展開了廣泛的實踐。對於不同的應用場景,機器學習與微分方程式都有廣泛的場景。

以上是機器學習與微分方程的淺析的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:51cto.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板
關於我們 免責聲明 Sitemap
PHP中文網:公益線上PHP培訓,幫助PHP學習者快速成長!