cuda alignement de la mémoire

Il y a beaucoup de questions dans ce post. Depuis la programmation CUDA guide fait un assez bon travail d'expliquer l'alignement dans CUDA, je vais juste expliquer quelques choses qui ne sont pas évidentes dans le guide.

Tout d'abord, la raison de votre hôte compilateur vous donne des erreurs est parce que l'hôte compilateur ne sait pas ce que __align(n)__ moyens, de sorte qu'il donne une erreur de syntaxe. Ce que vous avez besoin est de placer quelque chose comme ce qui suit dans un en-tête de votre projet.

#if defined(__CUDACC__) //NVCC
   #define MY_ALIGN(n) __align__(n)
#elif defined(__GNUC__) //GCC
  #define MY_ALIGN(n) __attribute__((aligned(n)))
#elif defined(_MSC_VER) //MSVC
  #define MY_ALIGN(n) __declspec(align(n))
#else
  #error "Please provide a definition for MY_ALIGN macro for your host compiler!"
#endif

Alors, suis-je censé avoir deux définitions différentes de l'hôte et périphérique structures?

Pas, il suffit d'utiliser MY_ALIGN(n), à l'instar de ce

struct MY_ALIGN(16) pt { int i, j, k; }

Par exemple, comment les deux suivantes à être aligné?

D'abord, __align(n)__ (ou l'une de l'hôte compilateur saveurs), impose que la mémoire pour la structure commence à une adresse en mémoire qui est un multiple de n octets. Si la taille de la structure n'est pas un multiple de n, puis dans un tableau de ces structures, rembourrage sera inséré, de sorte que chaque structure est correctement aligné. Pour choisir une bonne valeur pour n, vous souhaitez réduire la quantité de remplissage requis. Comme expliqué dans le guide de programmation, le matériel nécessite chaque thread lit des mots alignés à 1,2,4, 8 ou 16 octets. Alors...

struct MY_ALIGN(16) {
  int a;
  int b;
  int c;
  int d;
  float* el;    
};

Dans ce cas, disons-nous choisir de 16 octets de l'alignement. Sur une machine 32 bits, le pointeur prend 4 octets, de sorte que la structure prend de 20 octets. De 16 octets de la géométrie des déchets 16 * (ceil(20/16) - 1) = 12 octets par struct. Sur une machine 64 bits, il sera un gaspillage de 8 octets par struct, en raison de l'octet de 8 pointeur. Nous pouvons réduire les déchets en utilisant MY_ALIGN(8) à la place. La différence sera que le matériel vous devez utiliser 3 8 octets de charges au lieu de 2 sur 16 octets charge pour charger la structure de la mémoire. Si vous n'êtes pas un goulot d'étranglement par les charges, c'est probablement un bon compromis. Notez que vous ne voulez pas à aligner plus petit que 4 octets pour cette structure.

struct MY_ALIGN(16) {
  int a;
  int b
  int c
  int d
  float* i;
  float* j;
  float* k;
};

Dans ce cas, avec 16 octets alignement de déchets à seulement 4 octets par structure sur les machines 32 bits, soit 8 sur les ordinateurs 64 bits. Elle aurait besoin de deux de 16 octets de charge (ou 3 sur une machine 64 bits). Si nous aligner sur 8 octets, nous pourrions éliminer les déchets entièrement avec 4 octets de l'alignement (8 octets sur les ordinateurs 64 bits), mais il en résulterait une charge excessive. De nouveau, les compromis.

ou, comment faut-il une structure avec 6 chars être aligné?

Encore une fois, les compromis: soit des déchets de 8 octets par struct ou besoin de deux chargements par struct.

ou 4 entiers?

Pas de compromis ici. MY_ALIGN(16).

encore une fois, je ne suis pas à l'aide de tableaux de ceux-ci, mais encore, je définir beaucoup de variables, avec ces structures à l'intérieur du noyau ou de _ device _ fonctions.

Hmmm, si vous n'êtes pas à l'aide de tableaux de ces derniers, alors vous ne pouvez pas besoin d'aligner à tous. Mais comment êtes-vous d'assigner à eux? Comme vous êtes probablement voir, tous les déchets est important de s'inquiéter, c'est une autre bonne raison de privilégier des structures de tableaux sur des tableaux de structures.