Yunlong Lyu

NLP系列近五年突破技术（二）笔记

Lecture 2 - Self-Attention与Transformer

课程信息：感谢@袁源老师，贪心科技–“ 共同战疫” NLP系列专题直播课，本文所有版权归贪心科技https://www.greedyai.com/所有。 Lecture 2 - Self-Attention与Transformer 1. 背景介绍（1）之前模型的缺点：本质原因还是RNN体系的梯度消失／爆炸问题，尽管LSTM在一定程度上能缓解该问题，然而并未能完全避免。（2）...

Posted by Yunlongs on March 15, 2020

NLP系列近五年突破技术（一）笔记

Lecture 1 - 词向量与ELMo模型

课程信息：感谢@李文哲老师，贪心科技–“ 共同战疫” NLP系列专题直播课，本文所有版权归贪心科技https://www.greedyai.com/所有。 Lecture 1 - 词向量与ELMo模型一.词向量分布 1. 语言模型计算句子的概率或者一系列单词的概率： $P(全民AI是趋势)=P(全民,AI,是,趋势)=P(全民) \times P(AI | 全民) \tim...

Posted by Yunlongs on March 14, 2020

cs224n自然语言处理公开课笔记（六）

Lecture 13 - ConvNet for NLP

视频地址：https://www.bilibili.com/video/av41393758/?p=13 课程主页地址：http://web.stanford.edu/class/cs224n/ 课程讲义下载地址：https://yunlongs-1253041399.cos.ap-chengdu.myqcloud.com/Books/CS224n/cs224n-2019-lectur...

Posted by Yunlongs on October 3, 2019

cs224n自然语言处理公开课笔记（五）

Lecture 10 - NMT and Attention Model

视频地址：https://www.bilibili.com/video/av41393758/?p=10 课程主页地址：http://web.stanford.edu/class/cs224n/ 课程讲义下载地址：https://yunlongs-1253041399.cos.ap-chengdu.myqcloud.com/Books/CS224n/cs224n-2019-notes0...

Posted by Yunlongs on October 3, 2019

cs224n自然语言处理公开课笔记（四）

Lecture 9 - GRU and LSTM

视频地址：https://www.bilibili.com/video/av41393758/?p=9 课程主页地址：http://web.stanford.edu/class/cs224n/ 课程讲义下载地址：https://yunlongs-1253041399.cos.ap-chengdu.myqcloud.com/Books/CS224n/cs224n-2019-notes05...

Posted by Yunlongs on October 2, 2019

cs224n自然语言处理公开课笔记（三）

Lecture 8 - Language Model and RNN

视频地址：https://www.bilibili.com/video/av41393758/?p=8 课程主页地址：http://web.stanford.edu/class/cs224n/ 课程讲义下载地址：https://yunlongs-1253041399.cos.ap-chengdu.myqcloud.com/Books/CS224n/cs224n-2019-notes05...

Posted by Yunlongs on October 1, 2019

cs224n自然语言处理公开课笔记（二）

Lecture 4 - Natural Language Processing with Deep Learning

视频地址：https://www.bilibili.com/video/av41393758/?p=4 课程主页地址：http://web.stanford.edu/class/cs224n/ 课程讲义下载地址：https://yunlongs-1253041399.cos.ap-chengdu.myqcloud.com/Books/CS224n/cs224n-2019-notes03...

Posted by Yunlongs on September 28, 2019

cs224n自然语言处理公开课笔记（一）

Lecture 3 - Glove,Evaluation and Training

视频地址：https://www.bilibili.com/video/av41393758/?p=3 课程主页地址：http://web.stanford.edu/class/cs224n/ 课程讲义下载地址：https://yunlongs-1253041399.cos.ap-chengdu.myqcloud.com/Books/CS224n/cs224n-2019-notes02...

Posted by Yunlongs on September 28, 2019

Deeplearning之CNN类型总结

经典网络、深度网络、目标识别网络

Deeplearning之CNN类型总结一.经典网络 1. LeNet-5 性质：针对灰度图片训练的，所以图片的大小只有32×32×1 包含大约6w个参数现在一般使用 ReLU 作为激活函数，输出层一般选择 softmax。 2. AlexNet 性质：约6000w个参数激活函数为 RELU 3. VGG-16 性质：简化了神经...

Posted by Yunlongs on September 21, 2019

Deeplearning知识点总结之思维导图

DNN、CNN知识点总结

思维导图内的知识点详细内容，可以在https://baozoulin.gitbook.io/neural-networks-and-deep-learning/中找到转载请注明：转载自博客https://yunlongs.cn/2019/09/21/DL-NOTE-2/ 温馨提示：图片有点大，请右键在新标签页中打开图片查看 Deeplearning知识点总结之思维导图...