Spring Boot - Limite sur le nombre de connexions créées

J'ai développé un microservice à l'aide de Printemps de Démarrage. J'étais tests de performance du service, en écrasant le backend appels. Quand j'ai regardé le nombre de thread , je vois que le nombre maximal de threads qui a créé le service est de 20 à n'importe quel point dans le temps, même si le nombre d'appels est beaucoup plus élevé. Il y a des restrictions dans le nombre d'appels qui peuvent être apportées à un microservice développé à l'aide de Printemps de Démarrage. S'il vous plaît pouvez vous guide en ce que les étapes que je dois suivre pour résoudre /augmenter le nombre de connexions acceptées par le service?

source d'informationauteur Punter Vicky

  1. 18

    Ce paramètre est dérivé du conteneur embarqué (tomcat, jetty...).

    Tomcat nombre de threads

    Vous pouvez spécifier cette propriété dans votre application.propriétés

    server.tomcat.max-threads=400

    Vous dites que vous compté 20 threads, cependant, selon ce d'autres stackoverflow question/réponsele numéro par défaut de fil doit être de 200 avec tomcat, depuis le serveur.tomcat.max-fils de la valeur par défaut est de 0. Voir la documentation de tomcat:

    Le nombre maximal de traitement de la demande de threads créés par ce Connecteur, qui détermine donc le nombre maximal de demandes simultanées qui peuvent être gérés. Si non spécifié, cet attribut est fixé à 200. Si un exécuteur testamentaire est associé à ce connecteur, cet attribut est ignoré que le connecteur d'exécuter des tâches à l'aide de l'exécuteur testamentaire, plutôt que d'un filetage intérieur de la piscine.

    Aussi, la propriété de:

    • ressac: server.undertow.worker-threads

    • jetée: server.jetty.acceptors

    Vous trouverez la liste des propriétés dans Le printemps de la documentation

  2. 2

    Alors que l'on a accepté la réponse est très utile, j'ai récemment vécu ce que je crois être le même problème que l'affiche originale. C'est le seul résultat de la recherche j'ai pu trouver qui sont directement corrélés avec mon expérience, j'ai donc pensé que je pourrais ajouter à ma solution au cas où il aide quelqu'un.

    Dans mon cas, les observés de la simultanéité de la limite de 20 a été imposée par le paramètre par défaut de 20 ans pour lesmaxConcurrentStreamExecution propriété dans org.apache.coyote.http2.Http2Protocol.

    Si vous rencontrez ce problème et que vous êtes à l'aide de HTTP/2, il ya une bonne chance que l'augmentation de maxConcurrentStreamExecution aidera.

    Vous pouvez trouver plus d'infos dans la Référence Pour La Configuration Tomcatqui dit, en réalité, cela devrait être réglé à 200 par défaut (pas plus de 20). Vous pouvez certainement voir le paramètre par défaut de 20 à org.apache.coyote.http2.Http2Protocolsi, si je ne suis pas sûr si c'est une faute de frappe ou juste quelque chose qui se présente différemment dans la version embarquée de Tomcat.

  3. 1

    Tomcat - maxThreads vs maxConnections

    Essayer de mettre maxConnections de biens à plus de 10000.

    De le doc:

    Le nombre maximal de connexions que le serveur va accepter et de traiter à un moment donné. Lorsque ce nombre a été atteint, le serveur va accepter, mais pas le processus, celui de la connexion. Cette connexion supplémentaire sera bloqué jusqu'à ce que le nombre de connexions en cours de traitement tombe en dessous de maxConnections à laquelle le serveur va commencer à accepter et le traitement de nouvelles connexions. Notez qu'une fois que la limite a été atteinte, le système d'exploitation peut encore accepter les connexions basées sur le acceptCount réglage. La valeur par défaut varie en fonction du type de connecteur. Pour le BIO, la valeur par défaut est la valeur de maxThreads à moins d'un Exécuteur testamentaire est utilisé, auquel cas la valeur par défaut est la valeur de maxThreads de l'exécuteur testamentaire. Pour NIO la valeur par défaut est 10000. Pour AVR/native, la valeur par défaut est 8192.

    Noter que pour AVR natif sur Windows, la configuration de la valeur sera réduite pour le plus grand multiple de 1024 qui est inférieure ou égale à maxConnections. Ceci est fait pour des raisons de performances.
    Si elle est définie à une valeur de -1, la maxConnections fonctionnalité est désactivée et les connexions ne sont pas comptés.

    Il est une des propriétés pour le printemps de démarrage, tomcat max-connexion, qui doit être mis en application.fichier de propriétés

    server.tomcat.max-connections= # Maximum number of connections that the server will accept and process at any given time.

    Plus d'informations, visitez ici , ici et ici