Aller au contenu principal

Azure Data Factory

Contenu du pack​

Modèles​

Le connecteur de supervision Azure Data Factory apporte un modèle d'hôte :

  • Cloud-Azure-DataFactory-Factories-custom

Le connecteur apporte les modèles de service suivants (classés selon le modèle d'hôte auquel ils sont rattachés) :

AliasModèle de serviceDescription
Factory-UsageCloud-Azure-DataFactory-Factories-Factory-Usage-Api-customContrôle la taille et les entités de la fabrique
Integration-RuntimeCloud-Azure-DataFactory-Factories-Integration-Runtime-Api-customContrôle l'utilisation du runtime d'intégration

Les services listés ci-dessus sont créés automatiquement lorsque le modèle d'hôte Cloud-Azure-DataFactory-Factories-custom est utilisé.

Règles de découverte​

Découverte d'hôtes​

Le connecteur de supervision Centreon Azure Data Factory inclut un fournisseur de découverte d'hôtes nommé Microsoft Azure Data Factories. Celui-ci permet de découvrir l'ensemble des instances rattachées à une souscription Microsoft Azure donnée et de les ajouter à la liste des hôtes supervisés.

Cette découverte n'est compatible qu'avec le mode api. Le mode azcli n'est pas supporté dans le cadre de cette utilisation.

Rendez-vous sur la documentation dédiée pour en savoir plus sur la découverte automatique d'hôtes.

Métriques & statuts collectés​

Voici le tableau des services pour ce connecteur, détaillant les métriques rattachées à chaque service.

MétriqueUnité
azdatafactory.factoryusage.percentage%
azdatafactory.factoryusage.resource.percentage%
azdatafactory.factoryusage.size.bytesB
azdatafactory.factoryusage.resource.countcount

Prérequis​

Rendez-vous sur la documentation dédiée afin d'obtenir les prérequis nécessaires pour interroger les API d'Azure.

Installer le connecteur de supervision​

Pack​

  1. Si la plateforme est configurée avec une licence online, l'installation d'un paquet n'est pas requise pour voir apparaître le connecteur dans le menu Configuration > Gestionnaire de connecteurs de supervision. Au contraire, si la plateforme utilise une licence offline, installez le paquet sur le serveur central via la commande correspondant au gestionnaire de paquets associé à sa distribution :
dnf install centreon-pack-cloud-azure-datafactory-factories
  1. Quel que soit le type de la licence (online ou offline), installez le connecteur Azure Data Factory depuis l'interface web et le menu Configuration > Gestionnaire de connecteurs de supervision.

Plugin​

À partir de Centreon 22.04, il est possible de demander le déploiement automatique du plugin lors de l'utilisation d'un connecteur. Si cette fonctionnalité est activée, et que vous ne souhaitez pas découvrir des éléments pour la première fois, alors cette étape n'est pas requise.

Plus d'informations dans la section Installer le plugin.

Utilisez les commandes ci-dessous en fonction du gestionnaire de paquets de votre système d'exploitation :

dnf install centreon-plugin-Cloud-Azure-DataFactory-Api

Utiliser le connecteur de supervision​

Utiliser un modèle d'hôte issu du connecteur​

  1. Ajoutez un hôte à Centreon depuis la page Configuration > Hôtes.
  2. Remplissez le champ Adresse IP/DNS avec l'adresse 127.0.0.1.
  3. Appliquez le modèle d'hôte Cloud-Azure-DataFactory-Factories-custom. Une liste de macros apparaît. Les macros vous permettent de définir comment le connecteur se connectera à la ressource, ainsi que de personnaliser le comportement du connecteur.
  4. Renseignez les macros désirées. Attention, certaines macros sont obligatoires. Par exemple, pour ce connecteur, AZURECUSTOMMODE (valeurs possibles : api ou azcli). En effet, il existe plusieurs modes de communication avec l'équipement supervisé : soit l'outil en ligne de commande azcli, soit une interrogation directe de l'api.
MacroDescriptionValeur par défautObligatoire
AZURECLIENTIDSet Azure client IDX
AZURECLIENTSECRETSet Azure client secretX
AZURECUSTOMMODEWhen a plugin offers several ways (CLI, library, etc.) to get information the desired one must be defined with this optionapi
AZURERESOURCESet resource name or id (Required)
AZURERESOURCEGROUPSet resource group (Required if resource's name is used)X
AZURESUBSCRIPTIONSet Azure subscription IDX
AZURETENANTSet Azure tenant IDX
PROXYURLProxy URL. Eg: http://my.proxy:3128
EXTRAOPTIONSAny extra option you may want to add to every command (e.g. a --verbose flag). Toutes les options sont listées ici

Deux méthodes peuvent être utilisées pour définir l'authentification :

  • Utilisation de l'ID complet de la ressource (de type /subscriptions/<subscription_id>/resourceGroups/<resourcegroup_id>/providers/XXXXXX/XXXXXXX/<resource_name>) dans la macro AZURERESOURCE.
  • Utilisation du nom de la ressource dans la macro AZURERESOURCE et du nom du groupe de ressources dans la macro AZURERESOURCEGROUP.
  1. Déployez la configuration. L'hôte apparaît dans la liste des hôtes supervisés, et dans la page Statut des ressources. La commande envoyée par le connecteur est indiquée dans le panneau de détails de l'hôte : celle-ci montre les valeurs des macros.

Utiliser un modèle de service issu du connecteur​

  1. Si vous avez utilisé un modèle d'hôte et coché la case Créer aussi les services liés aux modèles, les services associés au modèle ont été créés automatiquement, avec les modèles de services correspondants. Sinon, créez les services désirés manuellement et appliquez-leur un modèle de service.
  2. Renseignez les macros désirées (par exemple, ajustez les seuils d'alerte). Les macros indiquées ci-dessous comme requises (Obligatoire) doivent être renseignées.
MacroDescriptionValeur par défautObligatoire
TIMEFRAMESet timeframe in seconds (i.e. 3600 to check last hour).
INTERVALSet interval of the metric query (can be PT1M, PT5M, PT15M, PT30M, PT1H, PT6H, PT12H, PT24H).
AGGREGATIONAggregate monitoring. Can apply to: 'minimum', 'maximum', 'average', 'total' and 'count'. Can be called multiple times.
WARNINGFACTORYPERCENTAGEUSAGEThresholds.
CRITICALFACTORYPERCENTAGEUSAGEThresholds.
WARNINGFACTORYSIZEThresholds.
CRITICALFACTORYSIZEThresholds.
WARNINGRESOURCECOUNTThresholds.
CRITICALRESOURCECOUNTThresholds.
WARNINGRESOURCEPERCENTAGEUSAGEThresholds.
CRITICALRESOURCEPERCENTAGEUSAGEThresholds.
EXTRAOPTIONSAny extra option you may want to add to the command (e.g. a --verbose flag). Toutes les options sont listées ici
  1. Déployez la configuration. Le service apparaît dans la liste des services supervisés, et dans la page Statut des ressources. La commande envoyée par le connecteur est indiquée dans le panneau de détails du service : celle-ci montre les valeurs des macros.

Comment puis-je tester le plugin et que signifient les options des commandes ?​

Une fois le plugin installé, vous pouvez tester celui-ci directement en ligne de commande depuis votre collecteur Centreon en vous connectant avec l'utilisateur centreon-engine (su - centreon-engine). Vous pouvez tester que le connecteur arrive bien à superviser une instance Azure en utilisant une commande telle que celle-ci (remplacez les valeurs d'exemple par les vôtres) :

/usr/lib/centreon/plugins/centreon_azure_datafactory_factories_api.pl \
    --plugin=cloud::azure::datafactory::factories::plugin \
    --mode=integration-runtime \
    --custommode='api' \
    --resource='FACTORY001ABCD' \
    --resource-group='RSG1234' \
    --subscription='xxxxxxxxx' \
    --tenant='xxxxxxxxx' \
    --client-id='xxxxxxxxx' \
    --client-secret='xxxxxxxxx' \
    --proxyurl=''  \
    --filter-metric='' \
    --timeframe='' \
    --interval='' \
    --aggregation='' \
    --warning-average-task-pickup-delay='' \
    --critical-average-task-pickup-delay='' \
    --warning-cpu-percentage='' \
    --critical-cpu-percentage='' \
    --warning-queue-length='' \
    --critical-queue-length='' \
    --warning-available-node-number='' \
    --critical-available-node-number='' \
    --warning-available-memory='' \
    --critical-available-memory=''

La commande devrait retourner un message de sortie similaire à :

OK: Available memory: 33 B Available node number: 53 Average task pickup delay: 10 s Cpu percentage: 54 % Queue length: 41 | 'azdatafactory.integrationruntime.available.memory.bytes'=33B;;;0;'azdatafactory.integrationruntime.available.node.number.count'=53;;;0;'azdatafactory.integrationruntime.average.pickup.delay.seconds'=10s;;;0;'azdatafactory.integrationruntime.cpu.percentage.percent'=54%;;;0;100'azdatafactory.integrationruntime.queue.length.count'=41;;;0;

Diagnostic des erreurs communes​

Rendez-vous sur la documentation dédiée des plugins basés sur HTTP/API.

Modes disponibles​

Dans la plupart des cas, un mode correspond à un modèle de service. Le mode est renseigné dans la commande d'exécution du connecteur. Dans l'interface de Centreon, il n'est pas nécessaire de les spécifier explicitement, leur utilisation est implicite dès lors que vous utilisez un modèle de service. En revanche, vous devrez spécifier le mode correspondant à ce modèle si vous voulez tester la commande d'exécution du connecteur dans votre terminal.

Tous les modes disponibles peuvent être affichés en ajoutant le paramètre --list-mode à la commande :

/usr/lib/centreon/plugins/centreon_azure_datafactory_factories_api.pl \
    --plugin=cloud::azure::datafactory::factories::plugin \
    --list-mode

Le plugin apporte les modes suivants :

ModeModèle de service associé
discovery [code]Used for host discovery
factory-usage [code]Cloud-Azure-DataFactory-Factories-Factory-Usage-Api-custom
integration-runtime [code]Cloud-Azure-DataFactory-Factories-Integration-Runtime-Api-custom

Options disponibles​

Options génériques​

Les options génériques sont listées ci-dessous :

OptionDescription
--modeDefine the mode in which you want the plugin to be executed (see--list-mode).
--dyn-modeSpecify a mode with the module's path (advanced).
--list-modeList all available modes.
--mode-versionCheck minimal version of mode. If not, unknown error.
--versionReturn the version of the plugin.
--custommodeWhen a plugin offers several ways (CLI, library, etc.) to get information the desired one must be defined with this option.
--list-custommodeList all available custom modes.
--multipleMultiple custom mode objects. This may be required by some specific modes (advanced).
--pass-managerDefine the password manager you want to use. Supported managers are: environment, file, keepass, hashicorpvault and teampass.
--verboseDisplay extended status information (long output).
--debugDisplay debug messages.
--filter-perfdataFilter perfdata that match the regexp. Eg: adding --filter-perfdata='avg' will remove all metrics that do not contain 'avg' from performance data.
--filter-perfdata-advFilter perfdata based on a "if" condition using the following variables: label, value, unit, warning, critical, min, max. Variables must be written either %{variable} or %(variable). Eg: adding --filter-perfdata-adv='not (%(value) == 0 and %(max) eq "")' will remove all metrics whose value equals 0 and that don't have a maximum value.
--explode-perfdata-maxCreate a new metric for each metric that comes with a maximum limit. The new metric will be named identically with a '_max' suffix). Eg: it will split 'used_prct'=26.93%;0:80;0:90;0;100 into 'used_prct'=26.93%;0:80;0:90;0;100 'used_prct_max'=100%;;;;
--change-perfdata --extend-perfdataChange or extend perfdata. Syntax: --extend-perfdata=searchlabel,newlabel,target[,[newuom],[min],[m ax]] Common examples: Convert storage free perfdata into used: --change-perfdata=free,used,invert() Convert storage free perfdata into used: --change-perfdata=used,free,invert() Scale traffic values automatically: --change-perfdata=traffic,,scale(auto) Scale traffic values in Mbps: --change-perfdata=traffic_in,,scale(Mbps),mbps Change traffic values in percent: --change-perfdata=traffic_in,,percent()
--extend-perfdata-groupAdd new aggregated metrics (min, max, average or sum) for groups of metrics defined by a regex match on the metrics' names. Syntax: --extend-perfdata-group=regex,namesofnewmetrics,calculation[,[ne wuom],[min],[max]] regex: regular expression namesofnewmetrics: how the new metrics' names are composed (can use $1, $2... for groups defined by () in regex). calculation: how the values of the new metrics should be calculated newuom (optional): unit of measure for the new metrics min (optional): lowest value the metrics can reach max (optional): highest value the metrics can reach Common examples: Sum wrong packets from all interfaces (with interface need --units-errors=absolute): --extend-perfdata-group=',packets_wrong,sum(packets_(discard |error)_(in|out))' Sum traffic by interface: --extend-perfdata-group='traffic_in_(.*),traffic_$1,sum(traf fic_(in|out)_$1)'
--change-short-output --change-long-outputModify the short/long output that is returned by the plugin. Syntax: --change-short-output=pattern~replacement~modifier Most commonly used modifiers are i (case insensitive) and g (replace all occurrences). Eg: adding --change-short-output='OK~Up~gi' will replace all occurrences of 'OK', 'ok', 'Ok' or 'oK' with 'Up'
--change-exitReplace an exit code with one of your choice. Eg: adding --change-exit=unknown=critical will result in a CRITICAL state instead of an UNKNOWN state.
--range-perfdataRewrite the ranges displayed in the perfdata. Accepted values: 0: nothing is changed. 1: if the lower value of the range is equal to 0, it is removed. 2: remove the thresholds from the perfdata.
--filter-uomMask the units when they don't match the given regular expression.
--opt-exitReplace the exit code in case of an execution error (i.e. wrong option provided, SSH connection refused, timeout, etc). Default: unknown.
--output-ignore-perfdataRemove all the metrics from the service. The service will still have a status and an output.
--output-ignore-labelRemove the status label ("OK:", "WARNING:", "UNKNOWN:", CRITICAL:") from the beginning of the output. Eg: 'OK: Ram Total:...' will become 'Ram Total:...'
--output-xmlReturn the output in XML format (to send to an XML API).
--output-jsonReturn the output in JSON format (to send to a JSON API).
--output-openmetricsReturn the output in OpenMetrics format (to send to a tool expecting this format).
--output-fileWrite output in file (can be combined with json, xml and openmetrics options). E.g.: --output-file=/tmp/output.txt will write the output in /tmp/output.txt.
--disco-formatApplies only to modes beginning with 'list-'. Returns the list of available macros to configure a service discovery rule (formatted in XML).
--disco-showApplies only to modes beginning with 'list-'. Returns the list of discovered objects (formatted in XML) for service discovery.
--float-precisionDefine the float precision for thresholds (default: 8).
--source-encodingDefine the character encoding of the response sent by the monitored resource. Default: 'UTF-8'.
--subscriptionSet Azure subscription ID.
--tenantSet Azure tenant ID.
--client-idSet Azure client ID.
--client-secretSet Azure client secret.
--login-endpointSet Azure login endpoint URL (Default: 'https://login.microsoftonline.com')
--management-endpointSet Azure management endpoint URL (Default: 'https://management.azure.com')
--timeframeSet timeframe in seconds (i.e. 3600 to check last hour).
--intervalSet interval of the metric query (Can be : PT1M, PT5M, PT15M, PT30M, PT1H, PT6H, PT12H, PT24H).
--aggregationAggregate monitoring. Can apply to: 'minimum', 'maximum', 'average', 'total' and 'count'. Can be called multiple times.
--zeroedSet metrics value to 0 if they are missing. Useful when some metrics are undefined.
--timeoutSet timeout in seconds (Default: 10).
--http-peer-addrSet the address you want to connect to. Useful if hostname is only a vhost, to avoid IP resolution.
--proxyurlProxy URL. Eg: http://my.proxy:3128
--proxypacProxy pac file (can be a URL or a local file).
--insecureAccept insecure SSL connections.
--http-backendPerl library to use for HTTP transactions. Possible values are: lwp (default) and curl.
--ssl-optSet SSL Options (--ssl-opt="SSL_version => TLSv1" --ssl-opt="SSL_verify_mode => SSL_VERIFY_NONE").
--curl-optSet CURL Options (--curl-opt="CURLOPT_SSL_VERIFYPEER => 0" --curl-opt="CURLOPT_SSLVERSION => CURL_SSLVERSION_TLSv1_1" ).
--memcachedMemcached server to use (only one server).
--redis-serverRedis server to use (only one server). Syntax: address[:port]
--redis-attributeSet Redis Options (--redis-attribute="cnx_timeout=5").
--redis-dbSet Redis database index.
--failback-fileFailback on a local file if redis connection failed.
--memexpirationTime to keep data in seconds (Default: 86400).
--statefile-dirDefine the cache directory (default: '/var/lib/centreon/centplugins').
--statefile-suffixDefine a suffix to customize the statefile name (Default: '').
--statefile-concat-cwdIf used with the '--statefile-dir' option, the latter's value will be used as a sub-directory of the current working directory. Useful on Windows when the plugin is compiled, as the file system and permissions are different from Linux.
--statefile-formatDefine the format used to store the cache. Available formats: 'dumper', 'storable', 'json' (default).
--statefile-keyDefine the key to encrypt/decrypt the cache.
--statefile-cipherDefine the cipher algorithm to encrypt the cache (Default: 'AES').
--filter-dimensionSpecify the metric dimension (required for some specific metrics) Syntax example: --filter-dimension="$metricname eq '$metricvalue'"
--per-secDisplay the statistics based on a per-second period.

Microsoft Azure Rest API specifics​

Options des modes​

Les options disponibles pour chaque modèle de services sont listées ci-dessous :

OptionDescription
--resourceSet resource name or ID (Required).
--resource-groupSet resource group (Required if resource's name is used).
--warning-$metric$Warning threshold ($metric$ can be: 'factory-percentage-usage', 'resource-percentage-usage', 'factory-size', 'resource-count').
--critical-$metric$Critical threshold ($metric$ can be: 'factory-percentage-usage', 'resource-percentage-usage', 'factory-size', 'resource-count').

Pour un mode, la liste de toutes les options disponibles et leur signification peut être affichée en ajoutant le paramètre --help à la commande :

/usr/lib/centreon/plugins/centreon_azure_datafactory_factories_api.pl \
    --plugin=cloud::azure::datafactory::factories::plugin \
    --mode=integration-runtime \
    --help