tf.SparseTensor和tf.nn.ctc_loss

Question

我想重新構造第一個參數的標籤tf.nn.ctc_loss。

的標籤存儲在一個張量的shape=[batch_size x max_time]labels，並且由於第二維度已用零填充，標籤的真實長度被存儲在另一張量的shape=[batch_size]labels_length。

目前還不清楚tf.nn.ctc_loss的參數labels應該是什麼樣子。我讀到它應該是SparseTensor。什麼是indices，values和dense_shape的正確形狀和內容？

Answer 1

如果我理解正確的話，當前輸入labels看起來是這樣的：

[[4, 3, 1, 2, 5], 
[2, 3, 4, 1, 0], 
[1, 2, 3, 0, 0], 
[5, 4, 0, 0, 0]] 

中，我們有batch_size=4，max_time=5和labels_length=[5,4,3,2]。

如果是這種情況，您可以使用與here相同的方法將其轉換爲SparseTensor。因此，只要您總是填充零，就不需要使用labeles_length。

import tensorflow as tf 
labels = tf.Variable([[4, 3, 1, 2, 5], 
         [2, 3, 4, 1, 0], 
         [1, 2, 3, 0, 0], 
         [5, 4, 0, 0, 0]], tf.int32) 
with tf.Session() as sess: 
    sess.run(tf.global_variables_initializer()) 
    idx = tf.where(tf.not_equal(labels, 0)) 
    sparse = tf.SparseTensor(idx, tf.gather_nd(labels, idx), labels.get_shape()) 
    s = sess.run(sparse) 
    print s.indices 
    print s.values 
    print s.dense_shape 

> [[0 0] 
    [0 1] 
    [0 2] 
    [0 3] 
    [0 4] 
    [1 0] 
    [1 1] 
    [1 2] 
    [1 3] 
    [2 0] 
    [2 1] 
    [2 2] 
    [3 0] 
    [3 1]] 
> [4 3 1 2 5 2 3 4 1 1 2 3 5 4] 
> [4 5] 

爲了更好地理解稀疏張量（實際上它不是一個張量，但圍繞着三個張量的包裝），請參閱documentation。