Latest Notes

YANG's Blog

按时间整理的技术笔记、学习记录和工程实践。

知识库
Transformer机制学习笔记
2023-02-14 AI模型

学习自https://www.bilibili.com/video/BV1J441137V6 RNN,CNN网络的缺点 难以平行化处理,比如我们要算 $b^4$,我们需要一次将 $a^1$~$a^4$ 依次进行放入网络中进行计算。 于是有人提出用CNN代替RNN三角形表示输入,$b^1$ 的结果是由

Attention机制 学习笔记
2023-02-11 AI模型

学习自https://easyai.tech/ai-definition/attention/ Attention本质Attention(注意力)机制如果浅层的理解,跟他的名字非常匹配。他的核心逻辑就是“从关注全部到关注重点”。 比如我们人在看图片时,对图片的不同地方的注意力是不同的。 即,我们的视

ChatGPT (可能)是怎么炼成的
2023-02-11 AI模型

学习自李宏毅老师的课https://www.youtube.com/watch?v=e0aKI2GGZNg 1.学习文字接龙学习方式GPT只需要在网上阅读大量的句子,不需要人工标注即可学习到大量句子接龙的知识 然而实际上,“你好”后面可以接的字有很多。实际上,GPT学的就是一个“概率分布”。然后按照

[ZJOI2010]数字计数 解题思路
2022-07-25 ACM-ICPC

数字计数题目大意给定两个正整数 $a$ 和 $b$,求在 $[a,b]$ 中的所有整数中,每个数码($0,1,2,…,8,9$)各出现了多少次。 思路其实就是算从 $0$ 到 $n$ 中,每个数出现的次数,再用前缀和的方式去计算区间 $[a,b]$。那么重点就是去计算每个数的出现次数。 Step1我

牛客2022暑期集训第一场I题 Chiitoitsu 题解
2022-07-21 ACM-ICPC

题目大意一个人自己打麻将(34种牌型,每种4张)。初始抽13张牌,之后抽一张,若胡牌,则结束。否则则弃掉一张。而在此题中,胡牌的牌型只有7个对子,即7对相同的牌(每对之间不同)。保证起始手牌相同的牌不超过2张。 给定起始手牌,求能够胡牌的期望回合数。 题目链接 思路不难发现,我们只要是弃掉单张的牌,

Grab the Seat!
2022-07-21 ACM-ICPC

题目大意二维平面,屏幕是$(0, 1)–(0, m)$的线段,有$n$行$m$列座位在屏幕前面,是坐标范围$1 ≤ x ≤ n, 1 ≤ y ≤ m$的整点。有$k$个座位已经有人,求出到屏幕的视线不被任何人挡住的座位数量。题目链接一个人挡住的区域是它与屏幕两端连线所形成的夹角区域。可见视线遮挡是被

8 / 22