如何在前饋過程中處理填充0

Question

假設我有一個不同大小的輸入列表，例如一些是形狀[10,9,5]，一些是[7,6,5]，我有爲了填充0來將它們饋入到具有相同大小的張量流中，比如說[10,9,5]，我需要進行矩陣乘法並在正向處理期間添加偏差，這將在填充的0位置中引入數字。所以我必須自己創建一個蒙版矩陣來掩蓋它們？或者是否有從tensorflow更簡單的方法？謝謝！

順便說一句，我不餵食序列，也不使用rnn。所以我不能使用動態rnn

Answer 1

我想你可能會使用attention mechanism將可變長度輸入轉換爲某種固定長度張量，然後再將它們饋送到前饋網絡中。