SF
机器学习&深度学习...从入门到入门...
机器学习&深度学习...从入门到入门...
注册登录
关注博客
注册登录
主页
关于
RSS
RNN&Attention机制&LSTM 入门了解
lovaster
2018-04-24
阅读 7 分钟
29.8k
RNN 经典的RNN结构: 在实际应用中,我们还会遇到很多序列形的数据,如: 自然语言处理问题。x1可以看做是第一个单词,x2可以看做是第二个单词,依次类推。 语音处理。此时,x1、x2、x3……是每帧的声音信号。 时间序列问题。例如每天的股票价格等等 序列形的数据就不太好用原始的神经网络处理了。为了建模序列问题,RNN引...
word2vec
lovaster
2018-04-24
阅读 3 分钟
4.3k
word2vec是用一个一层的神经网络(CBOW的本质)把one-hot形式的词向量映射为分布式形式的词向量,为了加快训练速度,用了Hierarchical softmax,negative sampling 等trick。