Construire un pipeline depuis le Workflow

En résumé

  • Le Workflow permet de visualiser et d’organiser facilement le pipeline des tâches d’une Planification

  • Seul le Propriétaire et les contributeurs peuvent gérer le Workflow des tâches

  • Tous les Utilisateurs DC-Maestro peuvent consulter le Workflow d’une Planification Publique

  • Utiliser la fonction de calcul automatique pour générer le Workflow optimal pour mettre à jour l’ensemble des éléments de sortie d’un Projet

  • Il est possible de changer le Projet et mapper les tâches à de nouveaux éléments

  • Sélectionner ou survoler une tâche dans le Workflow pour afficher le détail de la tâche et la modifier

  • Sauvegarder le Workflow complet après avoir fait des modifications pour mettre à jour le pipeline dans l’orchestrateur

Pour en savoir plus sur l’ordre d’exécution, rendez-vous sur la page Ordonnancer un pipeline de tâches.

Vue Workflow

Le Workflow permet de visualiser et d’organiser facilement un pipeline de tâches.
Seul le Propriétaire et les contributeurs de la Planification peuvent créer, modifier et supprimer les tâches.

Les tâches peuvent être reliées entre elles pour définir l’ordre d’exécution.

Si les tâches ne sont pas reliées, DC-Maestro envoie toutes les demandes d’exécution simultanément.

task no link
Workflow -Aucune tâche n’est reliée

Si les tâches sont reliées, DC-Maestro envoie les demandes d’exécutions en fonction de l’ordre défini dans le Workflow.
Dans l’exemple ci-dessous, l’exposition sera exécutée après les 2 tâches de persistance, et seulement si celles-ci sont exécutées avec succès.

task linked
Workflow -Toutes les tâches sont reliées
Pour suivre pas à pas la création d’un Pipeline de tâches, rendez-vous sur la page du tutoriel Construire un Workflow.

Génération automatique du Workflow

La fonction de calcul automatique permet d’optimiser de manière globale les performances d’exécution pour la mise à jour des éléments de sortie d’une chaîne de traitement d’un Projet.
Elle analyse l’intégralité du Projet lié à la Planification pour déterminer les éléments de la chaîne qui doivent être persisté afin de garantir une mise à jour rapide des éléments partagés (Publications de Tableaux de bord et d’API).

Si des tâches d’Export sont déjà paramétrées dans le Workflow, elles peuvent être prisent en compte dans le calcul.

La présence de persistances en dehors des éléments calculés par DC-Maestro perturbe le bon fonctionnement de la chaîne.
Il est donc nécessaire de dépersister l’ensemble des éléments du Projet avant de commencer l’exécution du pipeline.
Tous les éléments du Projet qui peuvent être persisté ne sont pas systématiquement présents dans le Workflow généré : seuls les éléments pour lesquels une persistance permet un gain de performances sont présents. Si aucune action de persistance n’est nécessaire, seules les tâches de mise à jour des Publications de Tableau de bord et d’API seront présentes.
Il est possible de créer le workflow d’une chaîne sans éléments de sortie présents dans le Projet (expositions ou publication) en configurant et enregistrant une tâche d’export sur un Datablock final puis en lançant le calcul automatique à partir de cette tâche.

Si le résultat du calcul automatique est vide cela peut signifier qu’aucun élément de sortie n’a été trouvé dans la chaîne (Exposition API (V1) et Publication API (V2), Publications de Tableaux de bord, Tâche d’Exports) ou que vous n’avez pas les droits Datachain suffisant sur ces éléments.

Générer un pipeline automatiquement

Pour que le workflow généré soit cohérent par rapport au projet, il est nécessaire que l’utilisateur qui lance le calcul du workflow possède tous les droits sur les éléments du projet.

La fonction de génération automatique du Workflow est accessible via le menu d’action en cliquant sur l’icône Calcul automatique .

Le déclenchement du calcul automatique affiche une modale de configuration qui permet ou non d’inclure les tâches d’export.

Seules les tâches d’exports enregistrées sont prises en compte dans le calcul. Pensez à sauvegarder votre Workflow avant de lancer le calcul.
generation auto wf maestro
Workflow -Modale de configuration

Dès que le calcul est terminé, le nouveau Workflow s’affiche à l’écran.

Vous devez enregistrer les modifications pour conserver le nouveau Workflow.
Pour annuler ces changements vous pouvez cliquer sur l’icon Annuler du menu du Workflow.

Si plusieurs chaînes de traitement indépendantes (c’est-à-dire qui ne partagent aucun élément en commun) sont présentes dans le Projet, ces deux chaînes apparaissent disjointes dans le Workflow.
Vous devrez les relier entre elles dans l’interface si nécessaire.
En l’absence de lien, ces chaînes seront exécutées en parallèle.

Pour éviter les incohérences de mise à jour des données, il n’est pas recommandé de définir plusieurs Planifications sur un même Projet DataChain.
Il est préférable de dupliquer le Projet s’il contient plusieurs chaînes disjointes à automatiser à des fréquence différentes et de conserver une chaîne de traitement unique dans chacun des Projets.

Changement de Projet

Il est possible de modifier le Projet DataChain et de mapper les tâches existantes du Workflow aux éléments du nouveau Projet.

Lorsque vous sélectionnez un nouveau Projet, DC-Maestro associe automatiquement les éléments les plus probables à mapper.
Il n’est pas nécessaire de mapper touts les éléments pour modifier le Projet, mais seuls les éléments mappés seront conservés.

Cette fonction permet de conserver l’organisation du Workflow et l’historique d’exécution de la Planification.
Elle est particulièrement indiqué lorsqu’un nouveau projet (V2) est créé à partir d’un V1 qui ne sera pas conserver.
Il est tout à fait possible de conserver une Planification pour chaque Projet dans un soucis d’historisation.

Vous devez enregistrer les modifications pour conserver le nouveau Workflow.
Pour annuler ces changements vous pouvez cliquer sur l’icon Annuler du menu du Workflow.

Menu Workflow

La modification des tâches et du pipeline s’effectue depuis l’onglet du Workflow.

Menu d’actions
  • Enregistrer Enregistre l’ensemble des tâches et des liens du pipeline pour les envoyer dans l’Orchestrateur

  • Réorganiser Réorganise l’ensemble des éléments pour les recentrer dans la zone

  • Calcul automatique Lance la fonction de calcul automatique

  • Changer de Projet Permet de changer le Projet et de mapper les tâche sur de nouveaux éléments

Menu du Workflow
  • Connection impossible Annuler la dernière action (maximum 10)

  • Zoomer Zoomer / Dézoomer Dézoomer

  • Afficher Afficher / Masquer Masquer la grille

  • Verrouiller Verrouiller / Déverrouiller Déverrouiller les éléments

Le menu de droite permet d’ajouter et de modifier les tâches du Workflow.

Menu des tâches
  • Ajouter Sélection des tâches à ajouter dans le Workflow

  • Paramètres Paramètres de la tâche sélectionnée

Le paramétrage varie en fonction du type de tâche.

Pour sélectionner un élément DataChain cliquez sur Sélectionner puis sélectionner l’élément dans la liste.
Pour modifier un élément déjà sélectionné, cliquez sur l’icône Éditer

Vous pouvez voir des informations détaillées sur l’élément sélectionné dans le menu à droite.
Pour voir la page de l’élément dans DataChain, cliquez sur le numéro d’identifiant dans le cadre gris.

Survol de l’identifiant

Si l’instance est injoignable, que l’élément DataChain est supprimé, ou si l’utilisateur ne possède pas les droits suffisants, ces informations sont inaccessibles et le message suivant s’affiche à côté de l’identifiant :

Element DataChain inaccessible

Les tâches supprimées du pipeline depuis le Workflow ne sont plus exécutées.
Une tâche supprimée est toujours visible depuis l’historique d’exécution, mais il n’est plus possible d’accéder à son journal d’exécution.