我正在嘗試在火炬中實現RNN。爲了適應它,我開始了一個預測序列中下一個項目的簡單任務。序列是{1,2,3,4,5,6,7,8,9,10}的子序列,隨機選擇一個偏移量。火炬中的簡單RNN
我想實現一個帶LSTM單元的隱藏層的網絡體系結構。這就是爲什麼我使用nn.SeqLSTM(inputsize,outputsize)
rho = 5 -- number of steps for bptt
hiddensize = 15
inputsize = 1
outputsize = 1
seqlen = 5
nIndex = 10
batchsize = 4
seqlstm = nn.SeqLSTM(inputsize, outputsize)
criterion = nn.SequencerCriterion(nn.ClassNLLCriterion())
outputs = seqlstm:forward(inputs) -- inputs is seqlen x batchsize x inputsize
err = criterion:forward(outputs, targets) -- targets is seqlen x batchsize x 1
- 我需要一個nn.LookupTable?
- 這段代碼看起來有點簡單,並且缺少一些我猜的膠水。但是,哪些零件缺失以使其完成?