<?xml version="1.0" encoding="UTF-8" ?>
<rss version="2.0">
    <channel>
      <title>Huajishe Notes</title>
      <link>https://notes.huajishe.fun</link>
      <description>Last 10 notes on Huajishe Notes</description>
      <generator>Quartz -- quartz.jzhao.xyz</generator>
      <item>
    <title>18 第十八章 高维问题 当p大于N</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/18-%E7%AC%AC%E5%8D%81%E5%85%AB%E7%AB%A0-%E9%AB%98%E7%BB%B4%E9%97%AE%E9%A2%98-%E5%BD%93p%E5%A4%A7%E4%BA%8EN</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/18-%E7%AC%AC%E5%8D%81%E5%85%AB%E7%AB%A0-%E9%AB%98%E7%BB%B4%E9%97%AE%E9%A2%98-%E5%BD%93p%E5%A4%A7%E4%BA%8EN</guid>
    <description><![CDATA[ 一、 协方差矩阵：深度定义与公式 1. 理论定义 对于两个随机变量 X 和 Y，其协方差定义为： \text{cov}(X, Y) = E[(X - E[X])(Y - E[Y])] 它衡量的是两个变量变化的同步性：同时变大/变小则为正，反向变化则为负。 2. ]]></description>
    <pubDate>Sun, 10 May 2026 07:40:44 GMT</pubDate>
  </item><item>
    <title>8 第八章 模型推断和平均</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/8-%E7%AC%AC%E5%85%AB%E7%AB%A0-%E6%A8%A1%E5%9E%8B%E6%8E%A8%E6%96%AD%E5%92%8C%E5%B9%B3%E5%9D%87</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/8-%E7%AC%AC%E5%85%AB%E7%AB%A0-%E6%A8%A1%E5%9E%8B%E6%8E%A8%E6%96%AD%E5%92%8C%E5%B9%B3%E5%9D%87</guid>
    <description><![CDATA[ [逻辑架构图] 不确定性的度量底座：以 MLE 为起点，利用 Fisher 信息 定义参数空间的“曲率”与方差。 推断的两大范式（仿真与叠加）： Bootstrap（重点扩充）：通过对经验分布的重采样模拟真实的抽样分布（计算暴力美学）。 Bayes 方法：利用“能量场叠加”生成后验分布，通过先验注入物理约束。 深度关联：揭示 Bootstrap 是贝叶斯后验的非参数化近似。 计算引擎的底层实现： EM 算法：在“隐变量迷雾”中通过 E-M 迭代寻找似然下界的最高点。 MCMC：通过马尔可夫链在高维能量场中进行“探索采样”。 群体决策与架构集成： Bagging：通过并行化的 Bootstrap... ]]></description>
    <pubDate>Sun, 10 May 2026 07:40:01 GMT</pubDate>
  </item><item>
    <title>2 第二章 监督学习概要</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/2-%E7%AC%AC%E4%BA%8C%E7%AB%A0-%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0%E6%A6%82%E8%A6%81</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/2-%E7%AC%AC%E4%BA%8C%E7%AB%A0-%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0%E6%A6%82%E8%A6%81</guid>
    <description><![CDATA[ [逻辑架构图] 本章知识点构成了一个严密的系统架构模型，逻辑链条如下： I/O 接口定义 (数据与任务)：明确系统的输入输出协议（回归 vs 分类）。 目标函数与编译指示 (损失与判别)：定义系统优化的终极目标（让损失函数最小化），决定了参数更新的方向。 两种极端的底层架构 (最小二乘 vs KNN)：全局参数化模型（高Bias/计算密集型）与局部非参数化模型（高Variance/内存密集型）的对立与适用场景。 系统的物理极限 (偏差-方差权衡)：揭示了由于数据有限性和噪声引起的泛化瓶颈，打碎了“完美拟合”的幻想。 地址空间重映射 (基函数与核方法)：通过特征空间的非线性映射（类似虚拟内存映射... ]]></description>
    <pubDate>Sun, 10 May 2026 07:38:14 GMT</pubDate>
  </item><item>
    <title>7 第七章 模型评估及选择</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/7-%E7%AC%AC%E4%B8%83%E7%AB%A0-%E6%A8%A1%E5%9E%8B%E8%AF%84%E4%BC%B0%E5%8F%8A%E9%80%89%E6%8B%A9</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/7-%E7%AC%AC%E4%B8%83%E7%AB%A0-%E6%A8%A1%E5%9E%8B%E8%AF%84%E4%BC%B0%E5%8F%8A%E9%80%89%E6%8B%A9</guid>
    <description><![CDATA[ [逻辑架构图] 顶层哲学：Bias-Variance 分解是总纲，定义了泛化误差的本质。 评估路径 A（解析估计）：通过“裁判标准”对训练误差进行惩罚。 似然框架：AIC (预测导向) \to BIC (解释导向) \to MDL (压缩导向)。 理论上界：VC 维 (不依赖分布的潜力评估)。 评估路径 B（实验模拟）：通过“重采样”手段实测误差。 系统校验：CV (类 RAID 5 的循环校验)。 分布扰动：Bootstrap (类混沌工程的随机抽样)。 统一视角：从概率模型（MAP/似然）的角度收敛以上所有概念。 [深度整理正文] 1. ]]></description>
    <pubDate>Sun, 10 May 2026 07:38:01 GMT</pubDate>
  </item><item>
    <title>17 第十七章 无向图模型</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/17-%E7%AC%AC%E5%8D%81%E4%B8%83%E7%AB%A0-%E6%97%A0%E5%90%91%E5%9B%BE%E6%A8%A1%E5%9E%8B</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/17-%E7%AC%AC%E5%8D%81%E4%B8%83%E7%AB%A0-%E6%97%A0%E5%90%91%E5%9B%BE%E6%A8%A1%E5%9E%8B</guid>
    <description><![CDATA[ [逻辑架构图] 基础协议层（图结构与马尔科夫性）：定义了变量间条件独立性的拓扑语义，等同于系统设计中的“依赖解耦协议”。 连续数据流（高斯图模型 GGM）：处理连续变量，核心任务是将表象的协方差矩阵 S 转化为本质的精度矩阵 \Theta（稀疏化反演），以识别直接的控制链路。 离散状态机（马尔科夫随机场 MRF）：处理组合状态，通过势函数和吉布斯分布评估系统“能量”，但陷入了配分函数 Z 带来的 NP-hard 计算泥潭。 工程化重构（BM 与 RBM）：为了解决离散图模型的算力瓶颈，模型演化出全连接的波尔兹曼机（试图逼近热平衡）和切断层内连接的受限波尔兹曼机（通过拓扑阉割换取极致的硬件并行亲... ]]></description>
    <pubDate>Sun, 10 May 2026 06:00:33 GMT</pubDate>
  </item><item>
    <title>1 第一章 序言</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/1-%E7%AC%AC%E4%B8%80%E7%AB%A0-%E5%BA%8F%E8%A8%80</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/1-%E7%AC%AC%E4%B8%80%E7%AB%A0-%E5%BA%8F%E8%A8%80</guid>
    <description><![CDATA[ 一、书籍介绍 《统计学习要素》- 《The Elements of Statistical Learning: Data Mining, Inference, and Prediction》 01 书籍介绍 本书是统计学与数据科学领域的“圣经”级著作。它打破了传统教科书沉溺于严苛数学证明的桎梏，通过统一的概念框架，将看似散乱的机器学习算法串联在一起。书中配有大量色彩丰富的图表和来自生物、金融、营销等行业的真实案例，旨在帮助读者建立直观的统计思维，是科研人员和工业界数据挖掘专家的核心参考书。 02 作者简介 本书由斯坦福大学的三位顶尖统计学家共同撰写： Trevor Hastie &amp; R... ]]></description>
    <pubDate>Sat, 09 May 2026 15:19:58 GMT</pubDate>
  </item><item>
    <title>16 第十六章 集成学习</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/16-%E7%AC%AC%E5%8D%81%E5%85%AD%E7%AB%A0-%E9%9B%86%E6%88%90%E5%AD%A6%E4%B9%A0</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/16-%E7%AC%AC%E5%8D%81%E5%85%AD%E7%AB%A0-%E9%9B%86%E6%88%90%E5%AD%A6%E4%B9%A0</guid>
    <description><![CDATA[ [逻辑架构图] 本章知识点呈现出一个完美的“自顶向下”的系统工程架构： 宏观系统设计（集成策略）：探讨系统的并发模式（Bagging的并行容错 vs Boosting的串行纠错）及应用场景。 底层指令集（加性模型）：剥开黑盒，集成学习在数学上不过是自适应基函数的线性叠加（流水线组装）。 运行态控制机制（正则化与 LARS）：揭示提升树（Boosting）与 Lasso 算法在极小步长下的路径等价性，解释系统如何通过限制“迭代步数”或“惩罚权重”来防止过拟合。 高级编译优化（规则集成/RuleFit）：将复杂的树结构反编译为易读的 IF-THEN 指令集，并用 L1 正则化进行“死代码消除（De... ]]></description>
    <pubDate>Sat, 09 May 2026 14:43:16 GMT</pubDate>
  </item><item>
    <title>15 第十五章 随机森林</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/15-%E7%AC%AC%E5%8D%81%E4%BA%94%E7%AB%A0-%E9%9A%8F%E6%9C%BA%E6%A3%AE%E6%9E%97</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/15-%E7%AC%AC%E5%8D%81%E4%BA%94%E7%AB%A0-%E9%9A%8F%E6%9C%BA%E6%A3%AE%E6%9E%97</guid>
    <description><![CDATA[ [逻辑架构图] 本章知识点可映射为计算机系统的自底向上层级架构： 指令与原语层（原子单元）：决策树（基学习器），本质是高方差的自动门控分段函数。 并发与调度层（系统架构）：集成学习范式（Bagging的并行化民主 vs. ]]></description>
    <pubDate>Sat, 09 May 2026 14:40:58 GMT</pubDate>
  </item><item>
    <title>14 第十四章 非监督学习</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/14-%E7%AC%AC%E5%8D%81%E5%9B%9B%E7%AB%A0-%E9%9D%9E%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/14-%E7%AC%AC%E5%8D%81%E5%9B%9B%E7%AB%A0-%E9%9D%9E%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0</guid>
    <description><![CDATA[ [逻辑架构图] 本章知识点从宏观范式向底层微观的高维数据特征提取逐级深挖，呈现出由“离散关系寻找”到“连续空间降维”的严密逻辑链条： 认知基石：界定监督学习与非监督学习的边界（范式与数据结构特性）。 离散规则与图谱拓扑：从离散项集的频繁模式挖掘（关联规则 Apriori / FP-Growth），自然延伸到基于图结构的全局关联度量（PageRank算法）。 空间距离与聚集态（静态划分）：基于距离度量与概率密度的聚类分析（K-means、层次聚类、DBSCAN）。 空间映射与拓扑保持（动态过渡）：自组织映射图（SOM）作为降维与聚类的桥梁，实现高维到低维的非线性保流形映射。 线性特征提取与成分拆... ]]></description>
    <pubDate>Sat, 09 May 2026 14:40:43 GMT</pubDate>
  </item><item>
    <title>12 第十二章 支持向量机和灵活的判别方法</title>
    <link>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/12-%E7%AC%AC%E5%8D%81%E4%BA%8C%E7%AB%A0-%E6%94%AF%E6%8C%81%E5%90%91%E9%87%8F%E6%9C%BA%E5%92%8C%E7%81%B5%E6%B4%BB%E7%9A%84%E5%88%A4%E5%88%AB%E6%96%B9%E6%B3%95</link>
    <guid>https://notes.huajishe.fun/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0%E8%A6%81%E7%B4%A0-ESL-v1/12-%E7%AC%AC%E5%8D%81%E4%BA%8C%E7%AB%A0-%E6%94%AF%E6%8C%81%E5%90%91%E9%87%8F%E6%9C%BA%E5%92%8C%E7%81%B5%E6%B4%BB%E7%9A%84%E5%88%A4%E5%88%AB%E6%96%B9%E6%B3%95</guid>
    <description><![CDATA[ [逻辑架构图] 本章笔记的知识点并非平行散落，而是遵循一个层层递进的**“抽象与解耦”**架构： 基础表象层（几何学）：寻找最大间隔超平面，解决线性分类（SVC与硬/软间隔）。 计算解耦层（优化论）：通过拉格朗日对偶性，丢掉原空间的坐标维度 d，只保留样本关系（内积与 KKT 稀疏性）。 空间映射层（代数学）：引入“核技巧（Kernel Trick）”，利用数学等价性将高维基函数的存储开销转化为低维标量计算。 终极抽象层（泛函分析）：切入 RKHS（再生核希尔伯特空间）与表示定理，证明 SVM 本质上是在做无穷维函数空间的平滑度正则化。 系统工程层（现代 AI 对比）：从内核机制到大模型（Tr... ]]></description>
    <pubDate>Sat, 09 May 2026 14:40:11 GMT</pubDate>
  </item>
    </channel>
  </rss>