Comment faire pour transposer une matrice dans CUDA/cublas?

Dire que j'ai une matrice avec une dimension de A*B sur GPU, où B (nombre de colonnes) est la principale dimension en supposant un C style. Existe t'il une méthode en CUDA (ou cublas) pour transposer cette matrice de FORTRAN style, où A (nombre de lignes) devient la première dimension?

C'est encore mieux si elle pourrait être transposée au cours de host->device transfert de tout garder les données d'origine inchangé.

  • Parce que CUBLAS peuvent fonctionner sur les deux transposée et normal matrices, vous n'avez probablement pas besoin de calculer explicitement la matrice de transposition, même lorsque l'on travaille avec des matrices qui sont en ligne pour une commande importante.
  • Il semble que l'utilisation de cublas<t>geam, comme indiqué ci-dessous, est un moyen très efficace pour effectuer de la matrice de transposition en CUDA. Pour un code complet et une comparaison avec la matrice de transposition à l'aide de la Poussée, voir Quel est le moyen le plus efficace pour transposer une matrice dans CUDA?.
InformationsquelleAutor Hailiang Zhang | 2012-12-08
  1. 4

    Le CUDA SDK comprend un matrice de transposition, vous pouvez voir ici des exemples de code sur la façon de mettre en œuvre, qui vont de l'une implémentation naïve de versions optimisées.

    Par exemple:

    Naïf transposer

    __global__ void transposeNaive(float *odata, float* idata,
int width, int height, int nreps)
{
    int xIndex = blockIdx.x*TILE_DIM + threadIdx.x;
    int yIndex = blockIdx.y*TILE_DIM + threadIdx.y;
    int index_in = xIndex + width * yIndex;
    int index_out = yIndex + height * xIndex;

    for (int r=0; r < nreps; r++)
    {
        for (int i=0; i<TILE_DIM; i+=BLOCK_ROWS)
        {
          odata[index_out+i] = idata[index_in+i*width];
        }
    }
}

    Comme talonmies avait point de sortie vous pouvez spécifier si vous voulez exploiter la matrice transposée ou pas, dans cublas les opérations matricielles par exemple.: pour cublasDgemm() où C = a * op(A) * op(B) + b * C, en supposant que vous souhaitez exploiter Une transposé (A^T), sur les paramètres que vous pouvez spécifier si elle est ('N' normale ou 'T' transposé)

    • Salut, je sais que c'est un quelques années de retard. Mais est-il un moyen de le faire sur place? J'ai essayé de la naïveté de la solution en gardant une variable temp, mais il n'a pas l'air de travailler pour un non-sq de la matrice.
    • Pour une exécution séquentielle il y a de bien connaître les algorithmes. Dans les Gpu je sais à ce sujet impact.crhc.illinois.edu/shared/papers/p207-sung.pdf cela peut vous aider.
    • Merci pour le papier!
    InformationsquelleAutor dreamcrash
  2. 9

    comme demandé dans le titre, de transposer un appareil de la ligne majeure de la matrice A[m][n], on peut le faire de cette façon:

        float* clone = ...;//copy content of A to clone
    float const alpha(1.0);
    float const beta(0.0);
    cublasHandle_t handle;
    cublasCreate(&handle);
    cublasSgeam( handle, CUBLAS_OP_T, CUBLAS_OP_N, m, n, &alpha, clone, n, &beta, clone, m, A, m );
    cublasDestroy(handle);

    Et, pour multiplier deux lignes principales matrices A[m][k] B[k][n], C=A*B

        cublasSgemm( handle, CUBLAS_OP_N, CUBLAS_OP_N, n, m, k, &alpha, B, n, A, k, &beta, C, n );

    où C est une ligne majeure de la matrice.

    • Est-il possible de le faire sans un clone?
    InformationsquelleAutor Feng Wang
  3. 4

    La version de CUBLAS livré avec le CUDA 5 boîte à outils contient un BLAS-comme méthode (cublasgeam) qui pourrait être utilisé pour transposer une matrice. Il est documenté ici.

    InformationsquelleAutor Talal