1.主要结构整个工业界标准的搜索/推荐管道通常分为以下四个核心阶段: Step1: 召回阶段 (Recall / Retrieval): 任务:从 1 亿个商品(或视频、文档)中,快速捞出 1000 个用户可能感兴趣的候选物。 模型:双塔模型 (Two-Tower) 及其它轻量级算法(如协同过滤、倒
Latest Notes
YANG's Blog
按时间整理的技术笔记、学习记录和工程实践。
1.直观理解 原生的正弦波绝对位置编码(Absolute PE)其实是个“路痴”,它算点积时只能感知距离,根本分不清前后,完全是靠后来不对称的权重矩阵强行“学”出来的方向感。 RoPE 则是直接在数学根基上解决这个问题。它的核心理念极其优雅:用绝对位置的计算方式,实现了相对位置的表达。 RoPE 的
本文记录了排查 hexo g 报错、安装 details 标签插件、修复文章中孤立标签,以及将内联样式迁移到主题 CSS 文件的完整过程。 1. 问题起因执行 hexo g 时报致命错误: 12Nunjucks Error: _posts/AI_Model/Transformer.md [Line
1. IntroductionTransformer 是一个完全基于自注意力机制(Self-Attention)的编解码器模型,它摒弃了传统的 RNN 和 CNN,通过多头注意力捕捉序列的全局依赖关系,并利用前馈神经网络进行特征变换,辅以残差连接和层归一化来保证深层网络的稳定训练。 1.1 Tran
本文记录了为博客主页的”我的梦想”小部件新增每日笑话切换功能的完整过程——包括读取原始笑话文件的编码处理、数据提取、前端切换逻辑,以及样式定制。 1. 需求背景博客主页顶部有一个”我的梦想”卡片,展示一段固定的励志文字。想在这个卡片里加入一个隐藏彩蛋:点击按钮可切换成”每日笑话”模式,随机展示一条苏
1.矩阵分解1.模型结构1.1 模型核心原理矩阵分解的核心思想是:每一个用户和每一个物品,都可以映射到一个低维的隐空间(Latent Space)中。 什么是隐向量隐向量将用户和物品投影到了同一个低维空间,这使得它们具有了可比性 用户隐向量 ($p_u$): 定义: 代表了用户 $u$ 在 $k$
1.协同过滤推荐 vs 基于内容的推荐1. 协同过滤的核心思想:矩阵分解与相似度协同过滤本质上是在处理一个用户-物品交互矩阵 $R$。矩阵的行代表用户(Users),列代表物品(Items),单元格的值代表行为(评分、点击等)。 2. 两种主要的协同过滤路径User-based CF (基于用户的协
本章定位:2024–2026 年最热门的对齐前沿。三条主线: GRPO:去掉 Critic 的 PPO 简化版,DeepSeek-R1 引爆 PRM:对推理过程每一步打分,o1 / R1 时代的关键 RLAIF / Constitutional AI:用 AI 反馈替代人类标注,Claude 路线
本文记录了为博客新增 details 折叠标签的完整过程——从功能实现、样式定制,到排查一个深藏在 Hexo 渲染管道中的 ERR_ASSERTION 崩溃,以及最终定位到一个几乎不可能通过猜测发现的根本原因。 阅读说明:本文在描述 Hexo 的 Swig 标签语法时,使用 { % 和 %
本博客基于 Hexo 8 静态站点生成器与 hexo-theme-matery 主题构建,托管于 GitHub Pages。本文完整梳理项目的目录结构、核心配置文件、写作规范,以及如何通过自定义样式与脚本对博客进行二次开发。 1. 项目总览一、 目录结构12345678910111213141516