微分與積分的數學模型（面向CS的線性代數）

2023-04-12 05:59:24 1

機器之心整理

機器之心編輯部

學習計算機科學總共需要多少數學基礎？大概 1900 頁吧。賓夕法尼亞大學計算機和信息科學系教授 Jean Gallier 的開源書籍《Algebra, Topology, Differential Calculus, and Optimization Theory For Computer Science and Engineering》用一本書的容量解決了所有問題。

這本書涵蓋了計算機科學所需的線性代數、微分和最優化理論等問題，可謂詳盡。

連結：http://www.cis.upenn.edu/~jean/math-basics.pdf

為什麼要讀這本書？

近年來，計算機科學、機器人學、機器學習和數據科學已經成為技術發展的重要推力。任何查看這些領域相關論文的人都會受到一些奇怪術語的困擾，如核 PCA、嶺回歸、套索回歸、支持向量機（SVM）、拉格朗日乘數、KKT 條件等。這些奇怪的術語背後涉及的是大量有關最優化理論的「經典」線性代數知識。那麼問題來了：要想理解並用好機器學習、計算機視覺等領域的工具，你就需要打好線性代數和最優化理論的知識基礎。而且，你還需要學一些概率和統計方面的東西。

很多有關機器學習的書籍都在試圖解決上述問題。如果你不了解拉格朗日對偶框架，那又從何理解領回歸問題的對偶變量呢？同樣地，如果你沒有深刻理解拉格朗日框架，又怎麼可能探討 SVM 的對偶公式呢？

對這些問題避而不談是一種省事的解決方式。如果你只是上述方法技巧的使用者，「食譜」類方法或許就足夠了。但是，這種方法並不適用於那些真正想要從事研究並希望做出重大貢獻的人。所以，作者認為，你還必須具有紮實的線性代數、最優化理論等方面的背景知識。

這會是一個問題，因為你需要投入大量的時間和精力來學習這些領域的知識，但作者相信堅持不懈的努力總會收到豐厚的回報。

這本書講了什麼？

這本書的主要目的是介紹線性代數和最優化理論的基礎知識以及這些知識在機器學習、機器人學、計算機視覺等領域的應用。

該書包含以下 10 卷：

1. 線性代數

2. 仿射幾何和射影幾何

3. 雙線性形式的幾何

4. 幾何：PID、UFD、諾特環、張量、PID 上的模塊、規範形

5. 拓撲和微分

6. 最優化理論基礎

7. 線性優化

8. 非線性優化

9. 在機器學習中的應用

10. 附錄

從大綱來看，除了基礎內容外，該書還探討了一些對於應用非常重要的知識。

對於大部分內容，該書都提供了完整的證明，一是為了使該書自成體系，二是因為只有證明出來才能對內容有深刻的理解。但作者建議在第一次閱讀時跳過那些證明過程，尤其是比較長或比較複雜的證明。

以下是本書的部分目錄：

作者

本書作者 Jean Gallier 今年 70 歲，來自賓夕法尼亞大學。目前的研究方向主要為計算機圖形學、計算機視覺、機器人技術等。他還曾發表過諧波分析與表徵理論、線性代數和優化器的機器學習應用、關於微分幾何和李氏群的說明等書籍。

,