Tensorflow la lecture de l'image & affichage

J'ai un tas d'images dans un format similaire à Cifar10 (fichier binaire, size = 96*96*3 octets par image), une image après l'autre (STL-10 dataset). Le fichier que je suis en ouverture a 138MB.

J'ai essayé de lire & vérifier le contenu des Tenseurs contenant les images pour être sûr que la lecture se fait de droite, cependant j'ai deux questions -

  1. Ne le FixedLengthRecordReader charger tout le fichier, cependant, il suffit de fournir les entrées une à la fois? Depuis la lecture de la première size octets doit être relativement rapide. Toutefois, le code prend environ deux minutes pour s'exécuter.
  2. Comment faire pour obtenir l'image réelle du contenu dans un format affichable, ou de les afficher en interne pour valider que les images sont bien lus? Je n'ai sess.run(uint8image), cependant, le résultat est vide.

Le code est ci-dessous:

import tensorflow as tf
def read_stl10(filename_queue):
  class STL10Record(object):
    pass
  result = STL10Record()

  result.height = 96
  result.width = 96
  result.depth = 3
  image_bytes = result.height * result.width * result.depth
  record_bytes = image_bytes

  reader = tf.FixedLengthRecordReader(record_bytes=record_bytes)
  result.key, value = reader.read(filename_queue)
  print value
  record_bytes = tf.decode_raw(value, tf.uint8)

  depth_major = tf.reshape(tf.slice(record_bytes, [0], [image_bytes]),
                       [result.depth, result.height, result.width])
  result.uint8image = tf.transpose(depth_major, [1, 2, 0])
  return result
# probably a hack since I should've provided a string tensor

filename_queue = tf.train.string_input_producer(['./data/train_X'])
image = read_stl10(filename_queue)

print image.uint8image
with tf.Session() as sess:
  result = sess.run(image.uint8image)
  print result, type(result)

De sortie:

Tensor("ReaderRead:1", shape=TensorShape([]), dtype=string)
Tensor("transpose:0", shape=TensorShape([Dimension(96), Dimension(96), Dimension(3)]), dtype=uint8)
I tensorflow/core/common_runtime/local_device.cc:25] Local device intra op parallelism threads: 4
I tensorflow/core/common_runtime/local_session.cc:45] Local session inter op parallelism threads: 4
[empty line for last print]
Process finished with exit code 137

Je suis en cours d'exécution sur mon CPU, si ça ajoute quoi que ce soit.

EDIT: j'ai trouvé la pure TensorFlow solution grâce à Rosa. Apparemment, lors de l'utilisation de la string_input_producer, afin de voir les résultats, vous devez initialiser la file d'attente des coureurs.
La seule chose à ajouter le code ci-dessus est la deuxième ligne du dessous:

...
with tf.Session() as sess:
    tf.train.start_queue_runners(sess=sess)
...

Par la suite, l'image dans le result peut être affiché avec la matplotlib.pyplot.imshow(result). J'espère que cela aide quelqu'un. Si vous avez des questions, n'hésitez pas à me demander ou vérifier le lien dans Rosa réponse.

  • Il me semble que vous êtes la lecture d'une image (selon le [Dimension(96), Dimension(96), Dimension(3)]) et pas tous d'entre eux.
  • C'est ce que je voulais faire, lire une image et l'afficher, cependant je n'étais pas sûr si TensorFlow encore charger tout le fichier, depuis la lecture prend que quelques minutes (et cela semble être une intervention relativement simple qui ne devrait pas prendre autant de temps)
  • Est-il une raison pour laquelle vous ne voulez pas lire le fichier dans numpy comme tableau 3d et de les acheminer dans tensorFlow variable?
  • Rien d'autre que de l'aide pur TensorFlow. Depuis qu'il est censé paralléliser la lecture, il semble utile de le savoir. Je peux le faire dans numpy, en cas d'échec 🙂
InformationsquelleAutor mttk | 2015-11-11
  1. 42

    Juste pour donner une réponse complète:

    filename_queue = tf.train.string_input_producer(['/Users/HANEL/Desktop/tf.png']) #  list of files to read

reader = tf.WholeFileReader()
key, value = reader.read(filename_queue)

my_img = tf.image.decode_png(value) # use png or jpg decoder based on your files.

init_op = tf.global_variables_initializer()
with tf.Session() as sess:
  sess.run(init_op)

  # Start populating the filename queue.

  coord = tf.train.Coordinator()
  threads = tf.train.start_queue_runners(coord=coord)

  for i in range(1): #length of your filename list
    image = my_img.eval() #here is your image Tensor :) 

  print(image.shape)
  Image.fromarray(np.asarray(image)).show()

  coord.request_stop()
  coord.join(threads)

    Ou si vous disposez d'un répertoire d'images que vous pouvez ajouter tous via ce fichier source Github

    @mttk et @salvador-dali: j'espère que c'est ce dont vous avez besoin

    • Ne devriez pas tout ce qui est après sess.exécuter(init_op) également en retrait par 2 espaces? Je suis un: ValueError: Ne peut évaluer tenseur à l'aide de la fonction eval(): Pas de session par défaut est enregistré. (pour l'image = my_image.eval())
    • Oui, Vous avez raison, je pense qu'il a été le problème lors de la copie et coller ici. Avez-vous essayé de l'indentation et de voir quel est le résultat?
    • Oui, nous n'avons pas eu une erreur, mais rien ne s'est passé non plus. Il se pourrait que notre image n'est pas correctement chargé, stackoverflow.com/questions/34356828/.... @Salvador Dali fonctionne bien, mais nous voulons nous rendre l'utilisation de l'objet de lecteur.
    • En fait, je reçois 2 erreurs: Image.show(), AttributeError: 'module' objet n'a pas d'attribut "show", et je tensorflow/core/kernels/fifo_queue.cc:154] Saut annulé tentative de mise en file d'
    • Je suis inquiète de ce que cela peut être un problème avec le code n'ayant pas la capacity arg pour string_input_producer, ce qui est important pour le réglage de la longueur maximale de la FIFOQueue retourné à partir de cette méthode. Je suis toujours à jouer avec, mais cela pourrait signifier que vous êtes en déposant quelques entrées (même si je ne suis pas certain).
    • J'ai essayé de lancer votre code, mais j'ai l'erreur suivante: ValueError: Cannot start queue runners: No default session is registered. Use "with sess.as_default()" or pass an explicit session to tf.start_queue_runners(sess=sess)
    • J'ai mis de la session=sess ici image = my_img.eval(session=sess) et maintenant ça fonctionne.
    • Je pense que vous avez raison. J'ai été en utilisant ce code pour charger près de 10 000 images (d'une taille totale de seulement 10 MO), mais a été d'obtenir des erreurs comme "Nœud n'est pas trouvé" pour certaines images aléatoires à chaque fois que j'ai couru le programme. Aussi, le programme dure plus de 30 minutes pour charger les images. Je me demande pourquoi.
    • Je reçois nom de l'Image n'est pas définie
    • En Heads-up: si vous voulez déterministe comportement dans l'ordre des images, pass shuffle=False en tant que paramètre à tf.train.string_input_producer.
    • Où est Image.fromarray(np.asarray(image)).show() en venir?
    • Si c'est PIL à son Image, alors il ne fonctionne pas avec la dernière version de TensorFlow 0.1.15. Depuis que utilise Python 3.6, qui ne prend pas en charge PIL... :/

    InformationsquelleAutor Hamed MP
  2. 14

    Selon la la documentation vous pouvez décoder JPEG/PNG images.

    Il devrait être quelque chose comme ceci:

    import tensorflow as tf

filenames = ['/image_dir/img.jpg']
filename_queue = tf.train.string_input_producer(filenames)

reader = tf.WholeFileReader()
key, value = reader.read(filename_queue)

images = tf.image.decode_jpeg(value, channels=3)

    Vous pouvez trouver un peu plus d'info ici

    • Merci beaucoup, j'ai enfin trouvé la solution 🙂
    InformationsquelleAutor Rosa Gronchi
  3. 10

    Après avoir parlé avec vous dans les commentaires, je crois que vous pouvez faire cela à l'aide de numpy/scipy. L'idée est de lire l'image dans le numpy 3d-tableau et de le nourrir dans la variable.

    from scipy import misc
import tensorflow as tf

img = misc.imread('01.png')
print img.shape    # (32, 32, 3)

img_tf = tf.Variable(img)
print img_tf.get_shape().as_list()  # [32, 32, 3]

    Ensuite, vous pouvez exécuter votre graphique:

    init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)
im = sess.run(img_tf)

    et vérifier que c'est la même chose:

    import matplotlib.pyplot as plt
fig = plt.figure()
fig.add_subplot(1,2,1)
plt.imshow(im)
fig.add_subplot(1,2,2)
plt.imshow(img)
plt.show()

    Tensorflow la lecture de l'image & affichage

    P. S. vous avez mentionné: Since it's supposed to parallelize reading, it seems useful to know.. À qui je peux dire que rarement dans l'analyse des données lecture des données est le goulot d'étranglement. La plupart de votre temps que vous passerez à la formation de votre modèle.

    • Convenu pour la lecture des données n'étant pas le goulot d'étranglement, mais je sais qu'il doit y avoir un moyen de le faire via la pure TensorFlow, donc je voulais savoir ce que je manque. Autre que cela, merci pour votre réponse, elle m'a aidé 🙂
    • Salvador la raison peut nous voulons pur TF solution est la suivante: Que TF compiler les procédures et de les exécuter dans son propre environnement, c'est mieux de le faire tous les TF des trucs pour minimiser le temps de faire l'aller-retour entre python et TF natif de calcul des trucs( C ). Je ne suis pas sue à propos, mais je pense qu'il fait une autre. Êtes-vous d'accord?
    • Je tiens également à voir une TF solution et je crois aussi qu'il serait mieux. Le problème est que je ne sais pas comment faire cela en TF et, par conséquent, a écrit celui que je connais. Je crois aussi que la surcharge sera faible en comparaison du temps nécessaire par l'apprentissage d'un modèle.
    InformationsquelleAutor Salvador Dali
  4. 3

    Charge des noms de tf.le train.match_filenames_once obtenir le nombre de fichiers pour parcourir avec tf.taille
    ouvrir de session et d'en profiter 😉

    import tensorflow as tf
import numpy as np
import matplotlib;
from PIL import Image

matplotlib.use('Agg')
import matplotlib.pyplot as plt


filenames = tf.train.match_filenames_once('./images/*.jpg')
count_num_files = tf.size(filenames)
filename_queue = tf.train.string_input_producer(filenames)

reader=tf.WholeFileReader()
key,value=reader.read(filename_queue)
img = tf.image.decode_jpeg(value)

init = tf.global_variables_initializer()
with tf.Session() as sess:
    sess.run(init)
    coord = tf.train.Coordinator()
    threads = tf.train.start_queue_runners(coord=coord)
    num_files = sess.run(count_num_files)
    for i in range(num_files):
        image=img.eval()
        print(image.shape)
        Image.fromarray(np.asarray(image)).save('te.jpeg')
    InformationsquelleAutor Ivan Jacobs
  5. 1

    (Ne peux pas commenter, pas assez de réputation, mais voici une version modifiée qui a fonctionné pour moi)

    À @HamedMP erreur sur le No default session is registered vous pouvez utiliser InteractiveSession pour se débarrasser de ce message d'erreur:
    https://www.tensorflow.org/versions/r0.8/api_docs/python/client.html#InteractiveSession

    Et à @NumesSanguis problème avec Image.show, vous pouvez utiliser le PIL .show() méthode car fromarray renvoie une image de l'objet.

    Je fais les deux ci-dessous (notez que j'utilise plutôt le format JPEG PNG):

    import tensorflow as tf
import numpy as np
from PIL import Image

filename_queue = tf.train.string_input_producer(['my_img.jpg']) #  list of files to read

reader = tf.WholeFileReader()
key, value = reader.read(filename_queue)

my_img = tf.image.decode_jpeg(value) # use png or jpg decoder based on your files.

init_op = tf.initialize_all_variables()
sess = tf.InteractiveSession()
with sess.as_default():
    sess.run(init_op)

# Start populating the filename queue.

coord = tf.train.Coordinator()
threads = tf.train.start_queue_runners(coord=coord)

for i in range(1): #length of your filename list
  image = my_img.eval() #here is your image Tensor :) 

Image.fromarray(np.asarray(image)).show()

coord.request_stop()
coord.join(threads)
    InformationsquelleAutor curiouscat
  6. 0

    J'ai utilisé CIFAR10 format au lieu de STL10 et le code est sorti comme

    filename_queue = tf.train.string_input_producer(filenames)
read_input = read_cifar10(filename_queue)
with tf.Session() as sess:       
    tf.train.start_queue_runners(sess=sess)
    result = sess.run(read_input.uint8image)        
img = Image.fromarray(result, "RGB")    
img.save('my.jpg')

    L'extrait de code est identique à mttk et Rosa Gronchi, mais de toute façon je n'étais pas capable d'afficher l'image en cours d'exécution, donc je l'ai enregistré en tant que fichier JPG.

    InformationsquelleAutor Cloud Cho
  7. 0

    Vous pouvez utiliser tf.keras API.

    import tensorflow as tf
import numpy as np
from tensorflow.keras.preprocessing.image import load_img, array_to_img

tf.enable_eager_execution()

img = load_img("example.png")
img = tf.convert_to_tensor(np.asarray(img))
image = tf.image.resize_images(img, (800, 800))
to_img = array_to_img(image)
to_img.show()
    InformationsquelleAutor Alex-zhai