HenryNdubuaku/maths-cs-ai-compendium
GitHub: HenryNdubuaku/maths-cs-ai-compendium
一本以直觉驱动、全面覆盖数学、计算机科学与人工智能的开放教科书，帮助实践者系统化掌握 AI/ML 研究工程师所需的核心知识。
Stars: 5405 | Forks: 712
# 数学、计算机科学与 AI 概要
**在线阅读**：[henryndubuaku.github.io/maths-cs-ai-compendium](https://henryndubuaku.github.io/maths-cs-ai-compendium/)
## 概述
大多数教科书将精彩的思想埋没在繁杂的符号中，跳过了直觉讲解，假设你已经掌握了一半的材料，并且在 AI 这样快速发展的领域很快就会过时。这是一本开放、打破常规的教科书，从基础开始全面涵盖数学、计算和人工智能。专为渴望深入理解本质的充满好奇心的实践者而写，而不仅仅是为了应付考试或面试。
## 背景
在过去几年从事 AI/ML 工作期间，我在笔记本中记录了大量优先注重直觉、结合真实世界背景、绝不含糊其辞的数学、计算和 AI 概念解释。2025 年，几位朋友利用这些笔记准备 DeepMind、OpenAI、Nvidia 等公司的面试。他们都被录取了，并且在目前的岗位上表现出色。同时，我去年也入选了 Y Combinator。所以我决定将这份笔记分享给大家。
## MCP Server
本仓库包含一个 MCP server，允许任何 AI 助手（Claude Code、Cursor、VS Code 等）将本概要作为知识库使用。它需要在本地克隆该仓库。其中包含了用于教育目的的工具和示例实现。
## 大纲
| # | 章节 | 总结 | 状态 |
|---|---------|---------|--------|
| 01 | [向量](chapter%2001%3A%20vectors/01.%20vector%20spaces.md) | 空间、模、方向、范数、度量、点积/叉积/外积、基、对偶性 | 可用 |
| 02 | [矩阵](chapter%2002%3A%20matrices/01.%20matrix%20properties.md) | 性质、特殊类型、运算、线性变换、分解 (LU, QR, SVD) | 可用 |
| 03 | [微积分](chapter%2003%3A%20calculus/01.%20differential%20calculus.md) | 导数、积分、多元微积分、泰勒近似、优化与梯度下降 | 可用 |
| 04 | [统计](chapter%2004%3A%20statistics/01.%20fundamentals.md) | 描述性统计量、抽样、中心极限定理、假设检验、置信区间 | 可用 |
| 05 | [概率](chapter%2005%3A%20probability/01.%20counting.md) | 计数、条件概率、分布、贝叶斯方法、信息论 | 可用 |
| 06 | [机器学习](chapter%2006%3A%20machine%20learning/01.%20classical%20machine%20learning.md) | 经典 ML、梯度方法、深度学习、强化学习、分布式训练 | 可用 |
| 07 | [计算语言学](chapter%2007%3A%20computational%20linguistics/01.%20linguistic%20foundations.md) | 句法、语义、语用、NLP、语言模型、RNN、CNN、注意力机制、transformers、文本扩散、文本 OCR、MoE、SSMs、现代 LLM 架构、NLP 评估 | 可用 |
| 08 | [计算机视觉](chapter%2008%3A%20computer%20vision/01.%20image%20fundamentals.md) | 图像处理、目标检测、分割、视频处理、SLAM、CNN、视觉 transformers、扩散模型、流匹配、VR/AR | 可用 |
| 09 | [音频与语音](chapter%2009%3A%20audio%20and%20speech/01.%20digital%20signal%20processing.md) | DSP、ASR、TTS、语音与声学活动检测、说话人分离、声源分离、主动降噪、wavenet、conformer | 可用 |
| 10 | [多模态学习](chapter%2010%3A%20multimodal%20learning/01.%20multimodal%20representations.md) | 融合策略、对比学习、CLIP、VLMs、图像/视频 token 化、跨模态生成、统一架构、世界模型 | 可用 |
| 11 | [自主系统](chapter%2011%3A%20autonomous%20systems/01.%20perception.md) | 感知、机器人学习、VLAs、自动驾驶汽车、空间机器人 | 可用 |
| 12 | [图神经网络](chapter%2012%3A%20graph%20neural%20networks/01.%20geometric%20deep%20learning.md) | 几何深度学习、图论、GNNs、图注意力、Graph Transformers、3D 等变网络 | 可用 |
| 13 | [计算与操作系统](chapter%2013%3A%20computing%20and%20OS/01.%20discrete%20maths.md) | 离散数学、计算机架构、操作系统、并发、并行、编程语言 | 可用 |
| 14 | [数据结构与算法](chapter%2014%3A%20data%20structures%20and%20algorithms/00.%20foundations.md) | Big O、递归、回溯、DP、数组、哈希、链表、栈、树、图、排序、二分查找 | 可用 |
| 15 | [生产级软件工程](chapter%2015%3A%20production%20software%20engineering/01.%20linux%20and%20CMD.md) | Linux、Git、代码库设计、测试、CI/CD、Docker、模型服务、MLOps、监控、使用编程代理的最佳实践 | 可用 |
| 16 | [SIMD 与 GPU 编程](chapter%2016%3A%20SIMD%20and%20GPU%20programming/00.%20why%20C%2B%2B%20and%20how%20ML%20frameworks%20work.md) | 用于 ML 的 C++、框架工作原理、硬件基础、ARM NEON/I8MM/SME2、x86 AVX、GPU/CUDA、Triton、TPUs、RISC-V、Vulkan、WebGPU | 可用 |
| 17 | [AI 推理](chapter%2017%3A%20AI%20inference/01.%20quantisation.md) | 量化、高效架构、服务与批处理、边缘推理、推测解码、成本优化 | 可用 |
| 18 | [ML 系统设计](chapter%2018%3A%20ML%20systems%20design/01.%20systems%20design%20fundamentals.md) | 系统基础、云计算、分布式系统、ML 生命周期、特征存储、A/B 测试、推荐/搜索/广告/欺诈设计示例 | 可用 |
## 前言
新生儿的大脑就是一个刚刚初始化的神经网络，它从真实世界的数据和经验中不断训练，直至成年……并持续终生。对法语的卓越理解加上完美无瑕的口音，意味着接触到了卓越的法语和完美的口音环境。同样地，具备出色解决问题能力的优秀 AI 研究员和工程师，意味着他们吸收了高质量的知识并积累了丰富的经验。
Kvashchev 的实验是一项长期的塞尔维亚研究，表明在创造性问题解决方面进行为期三年的强化训练可以显著提高智力，尤其是流体智力，能够增加 10-15 的 IQ 分数。天生拥有高 IQ 是真实存在的，就像高质量的权重初始化会带来更好的训练效果一样，这也得到了先天与后天实验结果的证明。
然而，高 IQ 个体真正拥有的唯一优势仅仅是更快地学习/识别模式的能力。但是，通过重复这种模式，任何概念都是绝对可以被掌握的。Charles Darwin 被他的老师和父亲认为是一个非常平庸、甚至低于平均水平的学生。他形容自己不够机智，感觉自己就像一个“运行缓慢的处理器”，需要时间去消化数据。
在 3 到 10 岁期间，我在学业上表现优异，能自然而然地掌握各种概念，从未做过笔记或复习过。在 11 到 13 岁期间，我变得有些自大，并凭借这种技巧跌落到了 80 人班级的后半部分。而在 14 到 15 岁之间，我开始像普通学生一样用功读书，在中学最后一个学期拿到了第一名。早期的学校课程与天生的 IQ 非常契合，但现实世界中的才能是由高质量的知识吸收和高强度的执行力所驱动的。
事实上，大多数在学业上表现优异的学生只是更加勤奋，而现行教育体系是为学习速度快的人设计的。这本概要提供了一种全面且紧密相连的知识脉络，旨在为这个世界上像 Darwin 一样的人提供更好的学习体验。你只需要具备基础数学和基本的 Python 编程知识，其他的一切都可以在阅读中逐渐掌握，相信这个过程吧！
## 如何更好地学习
在大学的第一个学期，我同时修了 17 门课程，成绩并不理想，因此我采用了一种学习技巧：
**阶段 1**：课后累积阅读
睡前阅读课后的每一份材料。在下一次上课时，从头开始复习直到当前进度，然后通过额外研究填补知识空白。这能让你的大脑将这些模式联系起来。
**阶段 2**：考前影子阅读
阅读每一张幻灯片/笔记的副标题，合上书本，然后想象并写下对该概念的解释。只重读你遗漏的部分，这类似于机器学习中的掩码语言建模。重读之后，最终一定要在代码中实现该概念。这样你就会对每个概念产生肌肉记忆。
这对那些不太自信的朋友非常有效。事实上，其中一位朋友在高级工程数学模块（我们在其中学习了 Hessians 和优化）中击败了我。她现在在一家大型油气公司工作。灵魂的意愿比我们所依赖的肉体更重要（Rosenthal 实验）。
## Henry Ndubuaku 是谁？
查看 GitHub 个人资料！
## 引用
```
@book{ndubuaku2025compendium,
title = {Maths, CS & AI Compendium},
author = {Henry Ndubuaku},
year = {2026},
publisher = {GitHub},
url = {https://github.com/HenryNdubuaku/maths-cs-ai-compendium}
}
```
**在线阅读**：[henryndubuaku.github.io/maths-cs-ai-compendium](https://henryndubuaku.github.io/maths-cs-ai-compendium/)
## 概述
大多数教科书将精彩的思想埋没在繁杂的符号中，跳过了直觉讲解，假设你已经掌握了一半的材料，并且在 AI 这样快速发展的领域很快就会过时。这是一本开放、打破常规的教科书，从基础开始全面涵盖数学、计算和人工智能。专为渴望深入理解本质的充满好奇心的实践者而写，而不仅仅是为了应付考试或面试。
## 背景
在过去几年从事 AI/ML 工作期间，我在笔记本中记录了大量优先注重直觉、结合真实世界背景、绝不含糊其辞的数学、计算和 AI 概念解释。2025 年，几位朋友利用这些笔记准备 DeepMind、OpenAI、Nvidia 等公司的面试。他们都被录取了，并且在目前的岗位上表现出色。同时，我去年也入选了 Y Combinator。所以我决定将这份笔记分享给大家。
## MCP Server
本仓库包含一个 MCP server，允许任何 AI 助手（Claude Code、Cursor、VS Code 等）将本概要作为知识库使用。它需要在本地克隆该仓库。其中包含了用于教育目的的工具和示例实现。
## 大纲
| # | 章节 | 总结 | 状态 |
|---|---------|---------|--------|
| 01 | [向量](chapter%2001%3A%20vectors/01.%20vector%20spaces.md) | 空间、模、方向、范数、度量、点积/叉积/外积、基、对偶性 | 可用 |
| 02 | [矩阵](chapter%2002%3A%20matrices/01.%20matrix%20properties.md) | 性质、特殊类型、运算、线性变换、分解 (LU, QR, SVD) | 可用 |
| 03 | [微积分](chapter%2003%3A%20calculus/01.%20differential%20calculus.md) | 导数、积分、多元微积分、泰勒近似、优化与梯度下降 | 可用 |
| 04 | [统计](chapter%2004%3A%20statistics/01.%20fundamentals.md) | 描述性统计量、抽样、中心极限定理、假设检验、置信区间 | 可用 |
| 05 | [概率](chapter%2005%3A%20probability/01.%20counting.md) | 计数、条件概率、分布、贝叶斯方法、信息论 | 可用 |
| 06 | [机器学习](chapter%2006%3A%20machine%20learning/01.%20classical%20machine%20learning.md) | 经典 ML、梯度方法、深度学习、强化学习、分布式训练 | 可用 |
| 07 | [计算语言学](chapter%2007%3A%20computational%20linguistics/01.%20linguistic%20foundations.md) | 句法、语义、语用、NLP、语言模型、RNN、CNN、注意力机制、transformers、文本扩散、文本 OCR、MoE、SSMs、现代 LLM 架构、NLP 评估 | 可用 |
| 08 | [计算机视觉](chapter%2008%3A%20computer%20vision/01.%20image%20fundamentals.md) | 图像处理、目标检测、分割、视频处理、SLAM、CNN、视觉 transformers、扩散模型、流匹配、VR/AR | 可用 |
| 09 | [音频与语音](chapter%2009%3A%20audio%20and%20speech/01.%20digital%20signal%20processing.md) | DSP、ASR、TTS、语音与声学活动检测、说话人分离、声源分离、主动降噪、wavenet、conformer | 可用 |
| 10 | [多模态学习](chapter%2010%3A%20multimodal%20learning/01.%20multimodal%20representations.md) | 融合策略、对比学习、CLIP、VLMs、图像/视频 token 化、跨模态生成、统一架构、世界模型 | 可用 |
| 11 | [自主系统](chapter%2011%3A%20autonomous%20systems/01.%20perception.md) | 感知、机器人学习、VLAs、自动驾驶汽车、空间机器人 | 可用 |
| 12 | [图神经网络](chapter%2012%3A%20graph%20neural%20networks/01.%20geometric%20deep%20learning.md) | 几何深度学习、图论、GNNs、图注意力、Graph Transformers、3D 等变网络 | 可用 |
| 13 | [计算与操作系统](chapter%2013%3A%20computing%20and%20OS/01.%20discrete%20maths.md) | 离散数学、计算机架构、操作系统、并发、并行、编程语言 | 可用 |
| 14 | [数据结构与算法](chapter%2014%3A%20data%20structures%20and%20algorithms/00.%20foundations.md) | Big O、递归、回溯、DP、数组、哈希、链表、栈、树、图、排序、二分查找 | 可用 |
| 15 | [生产级软件工程](chapter%2015%3A%20production%20software%20engineering/01.%20linux%20and%20CMD.md) | Linux、Git、代码库设计、测试、CI/CD、Docker、模型服务、MLOps、监控、使用编程代理的最佳实践 | 可用 |
| 16 | [SIMD 与 GPU 编程](chapter%2016%3A%20SIMD%20and%20GPU%20programming/00.%20why%20C%2B%2B%20and%20how%20ML%20frameworks%20work.md) | 用于 ML 的 C++、框架工作原理、硬件基础、ARM NEON/I8MM/SME2、x86 AVX、GPU/CUDA、Triton、TPUs、RISC-V、Vulkan、WebGPU | 可用 |
| 17 | [AI 推理](chapter%2017%3A%20AI%20inference/01.%20quantisation.md) | 量化、高效架构、服务与批处理、边缘推理、推测解码、成本优化 | 可用 |
| 18 | [ML 系统设计](chapter%2018%3A%20ML%20systems%20design/01.%20systems%20design%20fundamentals.md) | 系统基础、云计算、分布式系统、ML 生命周期、特征存储、A/B 测试、推荐/搜索/广告/欺诈设计示例 | 可用 |
## 前言
新生儿的大脑就是一个刚刚初始化的神经网络，它从真实世界的数据和经验中不断训练，直至成年……并持续终生。对法语的卓越理解加上完美无瑕的口音，意味着接触到了卓越的法语和完美的口音环境。同样地，具备出色解决问题能力的优秀 AI 研究员和工程师，意味着他们吸收了高质量的知识并积累了丰富的经验。
Kvashchev 的实验是一项长期的塞尔维亚研究，表明在创造性问题解决方面进行为期三年的强化训练可以显著提高智力，尤其是流体智力，能够增加 10-15 的 IQ 分数。天生拥有高 IQ 是真实存在的，就像高质量的权重初始化会带来更好的训练效果一样，这也得到了先天与后天实验结果的证明。
然而，高 IQ 个体真正拥有的唯一优势仅仅是更快地学习/识别模式的能力。但是，通过重复这种模式，任何概念都是绝对可以被掌握的。Charles Darwin 被他的老师和父亲认为是一个非常平庸、甚至低于平均水平的学生。他形容自己不够机智，感觉自己就像一个“运行缓慢的处理器”，需要时间去消化数据。
在 3 到 10 岁期间，我在学业上表现优异，能自然而然地掌握各种概念，从未做过笔记或复习过。在 11 到 13 岁期间，我变得有些自大，并凭借这种技巧跌落到了 80 人班级的后半部分。而在 14 到 15 岁之间，我开始像普通学生一样用功读书，在中学最后一个学期拿到了第一名。早期的学校课程与天生的 IQ 非常契合，但现实世界中的才能是由高质量的知识吸收和高强度的执行力所驱动的。
事实上，大多数在学业上表现优异的学生只是更加勤奋，而现行教育体系是为学习速度快的人设计的。这本概要提供了一种全面且紧密相连的知识脉络，旨在为这个世界上像 Darwin 一样的人提供更好的学习体验。你只需要具备基础数学和基本的 Python 编程知识，其他的一切都可以在阅读中逐渐掌握，相信这个过程吧！
## 如何更好地学习
在大学的第一个学期，我同时修了 17 门课程，成绩并不理想，因此我采用了一种学习技巧：
**阶段 1**：课后累积阅读
睡前阅读课后的每一份材料。在下一次上课时，从头开始复习直到当前进度，然后通过额外研究填补知识空白。这能让你的大脑将这些模式联系起来。
**阶段 2**：考前影子阅读
阅读每一张幻灯片/笔记的副标题，合上书本，然后想象并写下对该概念的解释。只重读你遗漏的部分，这类似于机器学习中的掩码语言建模。重读之后，最终一定要在代码中实现该概念。这样你就会对每个概念产生肌肉记忆。
这对那些不太自信的朋友非常有效。事实上，其中一位朋友在高级工程数学模块（我们在其中学习了 Hessians 和优化）中击败了我。她现在在一家大型油气公司工作。灵魂的意愿比我们所依赖的肉体更重要（Rosenthal 实验）。
## Henry Ndubuaku 是谁？
查看 GitHub 个人资料！
## 引用
```
@book{ndubuaku2025compendium,
title = {Maths, CS & AI Compendium},
author = {Henry Ndubuaku},
year = {2026},
publisher = {GitHub},
url = {https://github.com/HenryNdubuaku/maths-cs-ai-compendium}
}
```
标签：Apex, Vectored Exception Handling, 人工智能, 学习资源, 教程文档, 数学, 机器学习, 用户模式Hook绕过, 网络安全研究, 自动化攻击, 计算机科学, 请求拦截, 逆向工具