学习自https://www.bilibili.com/video/BV1J441137V6 RNN,CNN网络的缺点 难以平行化处理,比如我们要算 $b^4$,我们需要一次将 $a^1$~$a^4$ 依次进行放入网络中进行计算。 于是有人提出用CNN代替RNN三角形表示输入,$b^1$ 的结果是由
Latest Notes
YANG's Blog
按时间整理的技术笔记、学习记录和工程实践。
学习自https://easyai.tech/ai-definition/attention/ Attention本质Attention(注意力)机制如果浅层的理解,跟他的名字非常匹配。他的核心逻辑就是“从关注全部到关注重点”。 比如我们人在看图片时,对图片的不同地方的注意力是不同的。 即,我们的视
学习自李宏毅老师的课https://www.youtube.com/watch?v=e0aKI2GGZNg 1.学习文字接龙学习方式GPT只需要在网上阅读大量的句子,不需要人工标注即可学习到大量句子接龙的知识 然而实际上,“你好”后面可以接的字有很多。实际上,GPT学的就是一个“概率分布”。然后按照
本文主要介绍了一种基于神经网络的技术,来解决在含有隐形反馈的基础上进行推荐的关键问题————协同过滤。 2.1 Learning from Implicit Data$y{ui} = 1$,if interaction (user u, item i) is observed$y{ui} = 0$,
AbstractBPR主要用于基于隐式反馈(implicit feedback)的Item Recommendation。 尽管有很多做同样事情的算法比如matrix factorization, knearest-neighbor。但他们并不是直接对于物品排名本身进行预测的。 而BPR则是通过贝叶
数字计数题目大意给定两个正整数 $a$ 和 $b$,求在 $[a,b]$ 中的所有整数中,每个数码($0,1,2,…,8,9$)各出现了多少次。 思路其实就是算从 $0$ 到 $n$ 中,每个数出现的次数,再用前缀和的方式去计算区间 $[a,b]$。那么重点就是去计算每个数的出现次数。 Step1我
题目大意一个人自己打麻将(34种牌型,每种4张)。初始抽13张牌,之后抽一张,若胡牌,则结束。否则则弃掉一张。而在此题中,胡牌的牌型只有7个对子,即7对相同的牌(每对之间不同)。保证起始手牌相同的牌不超过2张。 给定起始手牌,求能够胡牌的期望回合数。 题目链接 思路不难发现,我们只要是弃掉单张的牌,
题目大意二维平面,屏幕是$(0, 1)–(0, m)$的线段,有$n$行$m$列座位在屏幕前面,是坐标范围$1 ≤ x ≤ n, 1 ≤ y ≤ m$的整点。有$k$个座位已经有人,求出到屏幕的视线不被任何人挡住的座位数量。题目链接一个人挡住的区域是它与屏幕两端连线所形成的夹角区域。可见视线遮挡是被
Abstract因式分解机(Factorization Machines)是一种结合了支持向量机(Support Vector Machines, SVM)的模型。与SVM不同的是,FM 使用对变量之间的所有交互进行建模。所以在数据特别稀疏的情况下,FM也能准确度较高地预测。此外,FM的计算时间复杂
原理论文笔记 github链接,源码以数据集 代码12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667