Image Classification 目标： 给定一张输入图片，输出对各类别的概率分布（猫、狗、树……） 关键设置： 所有输入图片必须是相同尺寸（例如 100×100） 输出是一个 one-hot 向量 ŷ：维度 = 模型能识别的类别数量 模型预测输出 y' 是一个概率向量（经过 softmax） 损失函数：y' 与 ŷ 之间的交叉熵（Cross Entropy）...

书接上回，为什么Optimization会失败呢？ Local Minima 和 Saddle Point 微分为0的点统称为critical point，那么怎么知道一个点是局部最小值还是鞍点呢？ $L(\theta)$ around $\theta = \theta’$ can be approximated below: [L(\theta) \approx L(\...

这是一个很好的时机做一次”知识融合”。我不会重新讲每个概念，而是带你看：这些东西如何共同构成一个运行中的计算机系统。 你学的这些东西，本质上是同一个问题的不同侧面：操作系统如何把”静止的程序”变成”活的进程”，并让多个进程安全共存。 我们先用一张图把所有概念串起来，然后再讲逻辑。 现在我们沿着这张图，讲清楚每一层之间的因果逻辑。 主线：一个程序如何变成活的进程 整个知识体系...

什么是可执行文件 — “双击可以弹出窗口的那个东西” 一个操作系统中的对象 (文件) 一个字节序列 (我们可以把它当字符串编辑) 一个描述了进程初始内存布局的数据结构 什么是执行？ — execve() execve() transforms the calling process into a new process. The new process is co...

语义分析需要做两件事情： 类型检查 — 静动(when)强弱(how serious) 【在这里不涉及】 符号检查 — 符号：变量名、函数名、类型名、标签名… 常见错误： 用到了变量/函数，但是前面没有定义【为什么不在语法分析处理？—上下文相关！】 把变量当作函数去用 重复定义 SDD和SDT 语法制导定义**SDD **(Syntax-Directed...

中间代码表示 中间表示（Intermediate Representation, IR）:编译器在前端与后端之间使用的、与具体源语言和目标机器都相对独立的程序表示形式，用于承载程序语义、驱动优化，并作为目标代码生成的输入 前端对源程序进行分析并产生中间表示，后端在此基础上生成目标代码 为什么需要IR？ 解耦与可移植性：同一前端可面向多个后端；同一后端可复用多个前端 ...

REVIEW：进程 首先，我们为什么需要“进程” 这是个老生常谈的问题，古早的计算机，一次只跑一个程序。程序从头跑到尾，独占所有内存和 CPU。这会带来两个问题： 问题 1：资源浪费。程序在等磁盘、等网络的时候，CPU 完全空闲。 问题 2：不安全。两个程序同时跑，一个写坏了内存，另一个也跟着崩。 所以这就引到了我们最熟悉的那句话：给每个程序一个“幻觉”——让它以为自己独占整台机器...

Machine Learning : “Field of study that gives computers the ability to learn without being explicitly programmed.” (Samuel 1959) 传统编程 = 人写规则 → 程序处理数据 → 输出结果 机器学习 = 人提供数据+结果 → 程序自己发现规则 本质上，就是让机器...

Everything is a file 文件系统可以用于构建任何信息系统，我们可以把“file” 当作一个可以顺序读写的字节流对象，而不仅仅是磁盘上的文件 FHS Filesystem Hierarchy Standard FHS: enables software and user to predict the location of installed files and dir...

struct proc { struct CPUState cpu; // points to mem[MEM_SIZE] uint8_t mem[MEM_SIZE]; // OS-internal state (pid, buf, buf_len, ...) }; 注意：进程好像是…有内存的？ 这个模型告诉我们： 一个进程 = CPU状态 + 它能访问的内...