L'information mutuelle et l'entropie conjointe de deux images - MATLAB

Pour calculer l'entropie conjointe, vous devez calculer l'histogramme conjoint entre les deux images. L'articulation de l'histogramme est essentiellement la même que la normale histogramme 1D mais la première dimension journaux intensités pour la première image et la deuxième dimension journaux intensités pour la deuxième image. Ceci est très similaire à ce qui est communément appelé un la co-occurrence de la matrice. Au lieu (i,j) dans l'articulation de l'histogramme, il vous indique le nombre de valeurs d'intensité que nous avons rencontrés, qui ont une intensité de i dans la première image et l'intensité j dans la seconde image.

Ce qui est important, c'est que ce dernier enregistre combien de fois nous avons vu cette paire d'intensités à la même emplacements correspondants. Par exemple, si nous avons un histogramme conjoint comte de (7,3) = 2, cela signifie que lorsque nous étions en analysant à la fois les images, quand nous avons rencontré l'intensité de 7, au même emplacement correspondant dans la deuxième image, nous avons rencontré l'intensité de 3 pour un total de 2 fois.

La construction d'un histogramme conjoint est très simple à faire.

1. Tout d'abord, créez un 256 x 256 de la matrice (en supposant que votre image est non signé de 8 bits entier) et les initialiser à tous les zéros. Aussi, vous devez vous assurer que vos deux images sont de la même taille (largeur et hauteur).
2. Une fois que vous faites cela, jetez un oeil sur le premier pixel de chaque image, que nous noterons que le coin supérieur gauche. Plus précisément, jetez un oeil à la intensités pour la première et la deuxième image à cet endroit. L'intensité de la première image qui servira de ligne, tandis que l'intensité de la deuxième image servira de colonne.
3. Trouver cet endroit dans la matrice et l'incrément de cet endroit dans la matrice par 1.
4. Répétez cette opération pour le reste de l'emplacement de votre image.
5. Après vous avez terminé, de le diviser toutes les entrées par le nombre total d'éléments dans l'image (n'oubliez pas qu'ils doivent être de la même taille). Cela nous donnera la distribution de probabilité conjointe entre les deux images.

On serait tenté de le faire avec for boucles, mais comme il est communément connu, for boucles sont notoirement lent et doit être évitée si possible. Cependant, vous pouvez facilement le faire en MATLAB de la façon suivante sans boucles. Supposons que im1 et im2 sont les première et deuxième images que vous souhaitez comparer. Ce que nous pouvons faire est de convertir im1 et im2 en vecteurs. Nous pouvons ensuite utiliser accumarray pour nous aider à calculer l'histogramme conjoint. accumarray est l'une des plus puissantes fonctions de MATLAB. Vous pouvez la considérer comme une miniature paradigme MapReduce. Il suffit de mettre, chaque entrée de données a une clé et une valeur associée. L'objectif de accumarray est-à-bin de toutes les valeurs qui appartiennent à la même clé et faire une opération sur l'ensemble de ces valeurs. Dans notre cas, la "clé" pourrait être l'intensité des valeurs, et les valeurs sont eux-mêmes la valeur de 1 pour chaque valeur d'intensité. Nous voulons ajouter toutes les valeurs de 1 que la carte à la poubelle, ce qui est exactement comment nous faisons pour calculer un histogramme. Le comportement par défaut pour accumarray est d'ajouter l'ensemble de ces valeurs. Plus précisément, la sortie de accumarray serait un tableau où chaque position calcule la somme de toutes les valeurs qui ont cartographié à cette clé. Par exemple, la première position est la somme de toutes les valeurs qui ont cartographié à la clé de 1, la deuxième position est la somme de toutes les valeurs qui ont cartographié à la clé de 2 et ainsi de suite.

Cependant, pour le joint de l'histogramme, vous voulez comprendre les valeurs de la carte à la même intensité paire de (i,j), et donc les touches ici serait une paire de coordonnées 2D. En tant que tel, toutes les intensités qui ont une intensité de i dans la première image et j dans la seconde image dans la même localisation spatiale partagé entre les deux images allez sur la même touche. Par conséquent, dans le 2D cas, la sortie de accumarray serait une matrice 2D où chaque élément (i,j) contient la somme de toutes les valeurs qui ont cartographié à clé (i,j), semblable à la 1D cas qui a été mentionné précédemment ce qui est exactement ce que nous sommes après.

En d'autres termes:

indrow = double(im1(:)) + 1;
indcol = double(im2(:)) + 1; %//Should be the same size as indrow
jointHistogram = accumarray([indrow indcol], 1);
jointProb = jointHistogram / numel(indrow);

Avec accumarray, la première entrée sont les clés et la seconde entrée sont les valeurs. Une note avec accumarray est que si chaque touche a la même valeur, vous pouvez tout simplement créer une constante à la deuxième entrée, qui est ce que j'ai fait et c'est 1. En général, c'est un tableau avec le même nombre de lignes que la première entrée. Aussi, prenez note de la première deux lignes. Il y aura inévitablement une intensité de 0 à votre image, mais parce que MATLAB commence indexation à 1, nous avons besoin de compenser à la fois les tableaux par 1.

Maintenant que nous avons l'articulation de l'histogramme, c'est vraiment simple à calculer l'entropie conjointe. Il est similaire à l'entropie en 1D, sauf que maintenant nous avons juste la sommation sur l'ensemble de la probabilité conjointe de la matrice. Gardez à l'esprit qu'il sera très probable que votre conjoint histogramme aura beaucoup de 0 entrées. Nous devons nous assurer que nous ignorer ceux-ci ou de la log2 opération ne sera pas défini. Débarrassons-nous de tout zéro inscriptions:

indNoZero = jointHistogram ~= 0;
jointProb1DNoZero = jointProb(indNoZero);

Prendre avis que j'ai cherché l'articulation de l'histogramme au lieu de la probabilité conjointe de la matrice. C'est parce que l'articulation de l'histogramme est constitué de nombres entiers, tandis que la probabilité conjointe de la matrice sera comprise entre 0 et 1. En raison de la division, je veux éviter de comparer toutes les entrées dans cette matrice avec 0 en raison numérique d'arrondi et de l'instabilité. La ci-dessus sera également convertir nos probabilité conjointe de la matrice dans un empilées les 1D vecteur, ce qui est bien.

En tant que tel, l'articulation de l'entropie peut être calculé comme:

jointEntropy = -sum(jointProb1DNoZero.*log2(jointProb1DNoZero));

Si ma compréhension du calcul de l'entropie pour une image de MATLAB est correcte, elle doit calculer l'histogramme /distribution de probabilité sur les 256 bacs, de sorte que vous pouvez certainement utiliser cette fonction, ici, avec la commune d'entropie qui vient d'être calculée.

Si nous avons des données en virgule flottante à la place?

Jusqu'à présent, nous avons supposé que les images que vous avez traité avec des niveaux qui sont une valeur entière. Que faire si nous avons de données à virgule flottante? accumarray suppose que vous essayez d'index dans le tableau de sortie à l'aide de nombres entiers, mais nous pouvons certainement accomplir ce que nous voulons avec cette petite bosse sur la route. Ce que vous voulez faire est de simplement attribuer à chaque valeur en virgule flottante dans les deux images ont une ID unique. Vous serait donc utiliser accumarray avec ces Id à la place. Pour faciliter cette ID de l'attribution, l'utilisation unique - plus précisément, la troisième sortie de la fonction. Vous devez prendre chacune des images, de les mettre en unique et à faire de ces indices à être entrée dans accumarray. En d'autres termes, faire ceci à la place:

[~,~,indrow] = unique(im1(:)); %//Change here
[~,~,indcol] = unique(im2(:)); %//Change here

%//Same code
jointHistogram = accumarray([indrow indcol], 1);
jointProb = jointHistogram / numel(indrow);
indNoZero = jointHistogram ~= 0;
jointProb1DNoZero = jointProb(indNoZero);
jointEntropy = -sum(jointProb1DNoZero.*log2(jointProb1DNoZero));

Noter qu'avec indrow et indcol, nous sommes assigner directement la troisième sortie de unique à ces variables, puis à l'aide de la commune même de l'entropie de code que nous avons calculé plus haut. En outre, nous n'avons pas à compenser les variables par 1 comme nous l'avons fait précédemment, car unique va affecter des codes à partir de 1.

De côté

Vous pouvez réellement calculer les histogrammes ou des distributions de probabilité pour chaque image individuellement à l'aide de la probabilité conjointe de la matrice. Si vous vouliez calculer les histogrammes /distributions de probabilité pour la première image, il vous suffit d'accumuler toutes les colonnes pour chaque ligne. De le faire pour la deuxième image, il vous suffit d'accumuler toutes les lignes de chaque colonne. En tant que tel, vous pouvez le faire:

histogramImage1 = sum(jointHistogram, 1);
histogramImage2 = sum(jointHistogram, 2);

Après, vous pouvez calculer l'entropie de la fois par vous-même. Pour vérifier, assurez-vous de mettre ces deux en Pdf, puis calculer l'entropie à l'aide de l'équation standard (comme ci-dessus).

---

Comment puis-je enfin de calcul de l'Information Mutuelle?

Enfin de calcul de l'Information Mutuelle, vous allez avoir besoin de l'entropie des deux images. Vous pouvez utiliser MATLAB intégré dans entropie fonction, mais cela suppose qu'il existe 256 niveaux uniques. Vous voulez probablement pour appliquer ce pour le cas où il y a N niveaux distincts au lieu de 256, et vous pouvez donc utiliser ce que nous avons fait ci-dessus avec le conjoint de l'histogramme, lors du calcul de la histogrammes pour chaque image dans le côté le code ci-dessus, puis calcul de l'entropie pour chaque image. Il vous suffit de répéter l'entropie de calcul qui a été utilisé conjointement, mais de l'appliquer à chaque image individuellement:

%//Find non-zero elements for first image's histogram
indNoZero = histogramImage1 ~= 0;

%//Extract them out and get the probabilities
prob1NoZero = histogramImage1(indNoZero);
prob1NoZero = prob1NoZero / sum(prob1NoZero);

%//Compute the entropy
entropy1 = -sum(prob1NoZero.*log2(prob1NoZero));

%//Repeat for the second image
indNoZero = histogramImage2 ~= 0;
prob2NoZero = histogramImage2(indNoZero);
prob2NoZero = prob2NoZero / sum(prob2NoZero);
entropy2 = -sum(prob2NoZero.*log2(prob2NoZero));

%//Now compute mutual information
mutualInformation = entropy1 + entropy2 - jointEntropy;

---

Espérons que cette aide!