本章目标 读完本章你能回答： 模拟器（emulator）到底在模拟什么？ 为什么”计算机 = 状态机”这句话不是口号，是真的可以写成 C 代码的？ 为什么第一个 stage 不是写 CPU，而是写一个空壳 REPL？ 一个”最小可维护”的 C 项目长什么样？ 以及你能动手做： 从零搭一个可编译、可跑、可退出的 C 项目 用 getopt 规范地解析命令行...

我们需要一种统一的语言，用以直观地描述、评估并改变一个商业模式 商业模式：一个商业模式描述的是一个组织创造、传递以及获得价值的基本原理 商业体的四个主要部分：客户、产品或服务、基础设施以及金融能力 九大模块 CS 客户细分 customer segments 任何一个组织都会服务于一个或多个客户群体。 客户细分这一模块描述了一家企业想要获得的和期望服务的不同的目标人群和机构...

0. 写在前面：为什么操作系统课要讲并发？ 并发不是“多线程编程”的内容吗，为什么放在操作系统里讲？ 原因来自 UNIX 的 fork-execve 模型。在这个模型下，进程之间是不共享内存的——这看起来已经把并发问题给隔离掉了。但是有一个例外：系统调用是共享内存的。 当进程执行 syscall 指令时，控制流跳转到操作系统内核代码。所有进程的内核代码运行在“同一个 C 程序”...

REVIEW 问题动机：从零开始的系统 一台刚上电的计算机，什么软件都没运行。谁来决定第一条指令是什么？谁来把操作系统加载进内存？ 这就是启动链（boot chain）要解决的问题。 关键约束：CPU 上电后不知道”系统在哪”，只知道跳转到一个固定的物理地址，剩下的事交给那里的代码。 启动链（Boot Chain） 整个过程是一条接力棒，每一级负责把下一级加载进来并...

两条主线：内存空间的分配与回收，内存空间的扩充！ 内存管理相关概念 内存空间的分配与回收 操作系统作为系统资源的管理者，当然需要对内存进行管理，在管理内存的时候，需要管理什么呢？ 操作系统负责内存空间的分配与回收 操作系统需要提供某种技术从逻辑上对内存空间进行扩充 操作系统需要提供地址转换功能（地址重定位），负责程序的逻辑地址与物理地址 ...

为什么需要 PAC 框架？ 核心问题： 训练误差很低，但我们真正关心的是泛化误差。两者之间的关系能被量化吗？ 具体而言，以下问题都没有严格答案： 训练误差 5%，测试误差能保证多少？ 测试集上表现好，是“真好”还是“碰巧好”？ 训练这个模型需要多少数据？ 解决思路（Valiant, 1984）： 引入概率，对“学习成功”给出概率性保证。 PAC 框架的基本符号与...

解决的问题：network的input一直是一个向量，输出可能是一个数值(regression)或者一个类别(classification)，那么，如果输入长度是一个sequence，而且长度不一样呢 为什么需要 Self-Attention？ 输入是一个向量序列 现实中很多任务的输入不是单一向量，而是长度可变的向量序列： NLP：句子 → 每个词是一个向量（one-hot 或...

Image Classification 目标： 给定一张输入图片，输出对各类别的概率分布（猫、狗、树……） 关键设置： 所有输入图片必须是相同尺寸（例如 100×100） 输出是一个 one-hot 向量 ŷ：维度 = 模型能识别的类别数量 模型预测输出 y' 是一个概率向量（经过 softmax） 损失函数：y' 与 ŷ 之间的交叉熵（Cross Entropy）...

书接上回，为什么Optimization会失败呢？ Local Minima 和 Saddle Point 微分为0的点统称为critical point，那么怎么知道一个点是局部最小值还是鞍点呢？ $L(\theta)$ around $\theta = \theta’$ can be approximated below: [L(\theta) \approx L(\...

这是一个很好的时机做一次”知识融合”。我不会重新讲每个概念，而是带你看：这些东西如何共同构成一个运行中的计算机系统。 你学的这些东西，本质上是同一个问题的不同侧面：操作系统如何把”静止的程序”变成”活的进程”，并让多个进程安全共存。 我们先用一张图把所有概念串起来，然后再讲逻辑。 现在我们沿着这张图，讲清楚每一层之间的因果逻辑。 主线：一个程序如何变成活的进程 整个知识体系...