Utilisation de Numpy (np.linalg.svd) pour la Décomposition en valeurs Singulières

Im lire Abdi & Williams (2010) "l'Analyse en composantes Principales", et je suis en train de refaire la SVD pour atteindre des valeurs pour plus de PCA.

L'article indique qu'à la suite de SVD:

X = P D Q^t

- Je charger mes données dans un np.tableau X.

X = np.array(data)
P, D, Q = np.linalg.svd(X, full_matrices=False)
D = np.diag(D)

Mais je n'ai pas le au-dessus de l'égalité lors de la vérification avec

X_a = np.dot(np.dot(P, D), Q.T)

X_a et X ont les mêmes dimensions, mais les valeurs ne sont pas les mêmes. Ai-je raté quelque chose, ou est la fonctionnalité de la np.linalg.svd fonction n'est pas compatible en quelque sorte avec l'équation dans le document?

OriginalL'auteur dms_quant | 2014-07-23

  1. 18

    TL;DR: numpy du SVD calcule X = PDQ, de sorte que le Q est déjà transposé.

    SVD de décomposition de la matrice X efficacement dans les rotations P et Q et la diagonale de la matrice D. La version de linalg.svd() j'ai des retours en avant des rotations pour P et Q. Vous ne voulez pas transformer Q lorsque vous calculez X_a.

    import numpy as np
X = np.random.normal(size=[20,18])
P, D, Q = np.linalg.svd(X, full_matrices=False)
X_a = np.matmul(np.matmul(P, np.diag(D)), Q)
print(np.std(X), np.std(X_a), np.std(X - X_a))

    J'obtiens: 1.02, 1.02, 1,8 e-15, montrant que X_a très fidèlement reconstruit X.

    Si vous utilisez Python 3, le @ opérateur met en œuvre la multiplication de matrice et rend le code plus facile à suivre:

    import numpy as np
X = np.random.normal(size=[20,18])
P, D, Q = np.linalg.svd(X, full_matrices=False)
X_a = P @ diag(D) @ Q
print(np.std(X), np.std(X_a), np.std(X - X_a))
print('Is X close to X_a?', np.isclose(X, X_a).all())
    selon np.dot de la documentation, np.matmul est préféré pour la multiplication matricielle
    De réponses mis à jour par Rodrigo commentaire. Également ajouté les plus récents, " @ " de la notation.

    OriginalL'auteur Frank M

  2. 4

    De la scipy.linalg.svd docstring, où (M,N) est la forme de la matrice d'entrée, et K est la plus petite des deux:

    Returns
-------
U : ndarray
    Unitary matrix having left singular vectors as columns.
    Of shape ``(M,M)`` or ``(M,K)``, depending on `full_matrices`.
s : ndarray
    The singular values, sorted in non-increasing order.
    Of shape (K,), with ``K = min(M, N)``.
Vh : ndarray
    Unitary matrix having right singular vectors as rows.
    Of shape ``(N,N)`` or ``(K,N)`` depending on `full_matrices`.

    Vh, tel que décrit, est la transposition de la Q utilisé dans le Abdi et Williams papier. Donc, juste

    X_a = P.dot(D).dot(Q)

    doit vous donner votre réponse.

    OriginalL'auteur eewallace