Chapter 1
PyTorch 入门与感知机实验手记
梳理张量操作、梯度下降与螺旋分类实验,记录感知机的动手直觉。
深度学习基础
点击卡片即可打开对应博文,随时回到专栏页浏览更多章节。
梳理张量操作、梯度下降与螺旋分类实验,记录感知机的动手直觉。
对比 FNN 与 CNN 的效果,并复盘 LeNet、VGG16 在两个数据集上的训练表现。
对比多种轻量级骨干在分类任务中的表现,整理参数量与精度的取舍。
记录 ViT 训练流程、配置要点与与 Swin Transformer 的差异观察。
汇总 MobileNet V1-V3 的主干设计、深度可分卷积与适用场景。
重点讲解 inverted residual、瓶颈结构与 SE/注意力的组合策略。
拆解深度可分 + 通道混洗的推理流程,并总结分组卷积的限制。
用图示解释 squeeze-excitation 的数学流程与常见变体。
以张量形状和矩阵推导说明缩放点积与多头拆分的计算步骤。
从 Patch Embedding 到分类头串联 ViT 的关键组件与设计理由。
聚焦 shifted window、自注意力复杂度与多尺度输出的组合方式。
通过公式与示意图复习卷积核、感受野与参数计算的入门概念。