Le déclenchement de l'étincelle d'emplois avec le RESTE

J'ai été de la fin de l'essayer apache spark. Ma question est plus spécifique pour déclencher l'étincelle de l'emploi. Ici J'avais posté la question sur la compréhension de l'étincelle de l'emploi. Après l'obtention sale sur les emplois, je suis passée à mon exigence.

J'ai un RESTE de point de fin, où j'expose API pour déclencher des Emplois, j'ai utilisé Spring4.0 pour le Repos de mise en Œuvre. Maintenant aller de l'avant, j'ai pensé à la mise en œuvre des Emplois de Service au Printemps où je voudrais soumettre par programme de Travail, sens lorsque le point de terminaison est déclenchée, avec des paramètres donnés, je voudrais déclencher le travail.
J'ai maintenant quelques options de conception.

  • Similaire à ci-dessous d'emploi écrite, j'ai besoin de maintenir un certain nombre d'Emplois appelé par une Classe Abstraite peut être JobScheduler .

     /*Can this Code be abstracted from the application and written as 
      as a seperate job. Because my understanding is that the 
     Application code itself has to have the addJars embedded 
     which internally  sparkContext takes care.*/
    
     SparkConf sparkConf = new SparkConf().setAppName("MyApp").setJars(
     new String[] { "/path/to/jar/submit/cluster" })
     .setMaster("/url/of/master/node");
      sparkConf.setSparkHome("/path/to/spark/");
    
            sparkConf.set("spark.scheduler.mode", "FAIR");
            JavaSparkContext sc = new JavaSparkContext(sparkConf);
            sc.setLocalProperty("spark.scheduler.pool", "test");
    
        //Application with Algorithm , transformations
    
  • s'étendant au-dessus du point d'avoir plusieurs versions d'emploi gérées par le service.

  • Ou d'utiliser une Étincelle d'Emploi de Serveur pour ce faire.

Tout d'abord, je voudrais savoir quelle est la meilleure solution dans ce cas, l'exécution sage et aussi mise à l'échelle sage.

Note : je suis autonome à l'aide d'un cluster à partir de l'étincelle.
aide gentiment.

  • J'ai ajouté le Printemps pour Apache Hadoop balise à cette question. Spring Batch Admin fournit une API REST pour la gestion et le lancement de travaux et je crois que le Printemps pour Apache Hadoop fournit la capacité de lancer des Étincelles emploi de Spring Batch...
  • merci pour la suggestion, je vais certainement regarder.
InformationsquelleAutor chaosguru | 2015-03-11