Tensorflow: Lors de l'utilisation de tf.expand_dims?

Tensorflow tutoriels comprennent l'utilisation de tf.expand_dims pour ajouter un "lot de dimension" d'un tenseur. J'ai lu la doc de cette fonction, mais il est encore un peu mystérieux pour moi. Personne ne sait exactement dans quelles circonstances il doit être utilisé?

Mon code est ci-dessous. Mon but est de calculer une perte en fonction de la distance entre les réels et les bacs. (E. g. si predictedBin = 10 et truthBin = 7 puis binDistanceLoss = 3).

batch_size = tf.size(truthValues_placeholder)
labels = tf.expand_dims(truthValues_placeholder, 1)
predictedBin = tf.argmax(logits)
binDistanceLoss = tf.abs(tf.sub(labels, logits))

Dans ce cas, dois-je appliquer tf.expand_dims à predictedBin et binDistanceLoss? Merci à l'avance.

InformationsquelleAutor Ron Cohen | 2016-08-18
  1. 40

    expand_dims ne permet pas d'ajouter ou de réduire les éléments d'un tenseur, il change juste la forme en ajoutant 1 à des dimensions. Par exemple, un vecteur avec 10 éléments pourraient être considérés comme une 10x1 de la matrice.

    La situation, j'ai rencontré à utiliser expand_dims, c'est quand j'ai essayé de construire un ConvNet pour classer les images en niveaux de gris. Les images en niveaux de gris sera chargé comme une matrice de taille [320, 320]. Cependant, tf.nn.conv2d exiger la saisie d'être [batch, in_height, in_width, in_channels], où la in_channels dimension est manquante dans mes données, qui dans ce cas doit être 1. J'ai donc utilisé expand_dims pour ajouter une dimension de plus.

    Dans votre cas, je ne pense pas que vous avez besoin expand_dims.

    InformationsquelleAutor Da Tong
  2. 13

    À ajouter à Da Tong réponse, vous pouvez élargir plus d'une dimension, à la même heure. Par exemple, si vous effectuez TensorFlow de conv1d opération sur les vecteurs de rang 1, vous avez besoin de les nourrir avec de rang trois.

    Effectuer expand_dims à plusieurs reprises qu'il est lisible, mais risque d'introduire des frais généraux dans le calcul graphique. Vous pouvez obtenir les mêmes fonctionnalités dans un one-liner avec reshape:

    import tensorflow as tf

# having some tensor of rank 1, it could be an audio signal, a word vector...
tensor = tf.ones(100)
print(tensor.get_shape()) # => (100,)

# expand its dimensionality to fit into conv2d
tensor_expand = tf.expand_dims(tensor, 0)
tensor_expand = tf.expand_dims(tensor_expand, 0)
tensor_expand = tf.expand_dims(tensor_expand, -1)
print(tensor_expand.get_shape()) # => (1, 1, 100, 1)

# do the same in one line with reshape
tensor_reshape = tf.reshape(tensor, [1, 1, tensor.get_shape().as_list()[0],1])
print(tensor_reshape.get_shape()) # => (1, 1, 100, 1)

    REMARQUE: Dans le cas où vous obtenez le message d'erreur TypeError: Failed to convert object of type <type 'list'> to Tensor., essayez de passer tf.shape(x)[0] au lieu de x.get_shape()[0] comme l'a suggéré ici.

    Espère que cela aide!

    Cheers,

    Andres

    • Avez-vous exécuter tous les tests pour voir si, en faisant un reshape est plus rapide que de le faire, disons, deux ou trois expand_dims?
    • pas vraiment! J'ai pris un coup d'oeil dans le sources, mais n'était pas en mesure de comprendre d'où gen_array_ops sont, donc je ne peux pas dire grand-chose... serait certainement intéressé à voir quelques tests
    • Ce que j'aime vraiment dans cette réponse, c'est la capacité à utiliser un tenseur défini la forme et non pas seulement d'un nombre entier. - Ce vraiment résolu mon problème, en qui j'avais besoin d'en tf.remodeler pour spécifier une dimension à Néant et l'autre spécifié par l'entrée de courant (de la taille des lots a été variable) plus déjà prédéfinis dimensions. Le tf.de la forme(x)[0] au sein de remodeler sauvé la journée 🙂 Merci beaucoup (même si je n'ai pas poser la question)!
    • Content que ça a aidé! et oui, syntaxe déclarative a ses bizarreries :). Si vous souhaitez avoir un plus impératif,franc de goût, mais vous avez besoin de coller à TF, vous pouvez prendre un coup d'oeil à la récemment ajouté désireux de l'API. Il existe d'autres alternatives, notamment PyTorch. Je l'ai fait récemment un examen sur DL plates-formes, n'hésitez pas à jeter un oeil et de fournir des commentaires si vous le souhaitez. Cheers
    InformationsquelleAutor fr_andres