Pipelines de données

Orchestration et transformation de donnees : Airflow, dbt, Astronomer, ETL et ELT.

234 skills

# Skill Source Description Maj
1 redis-clustering redis/agent-skills Concevoir des clés Redis Cluster et router les lectures pour éviter erreurs CROSSSLOT et surcharge. 95 14h
2 omni-to-databricks-metric-view exploreomni/omni-agent-skills Convertir un topic Omni en Databricks Metric View via CLI et YAML. 30 1j
3 cuopt-multi-objective-exploration nvidia/skills Tracer une frontière de Pareto multi-objectifs via des solves cuOpt successifs. 2 859 4j
4 clickhouse-aggregatingmergetree-state-merge divinevideo/divine-mobile Interroger correctement les colonnes ClickHouse AggregatingMergeTree avec les fonctions Merge. 262 4j
5 clickhouse-nip33-addressable-dedup divinevideo/divine-mobile Dédupliquer les événements Nostr NIP-33 dans ClickHouse via LIMIT 1 BY. 262 4j
6 montecarlo-subgroup-prediction divinevideo/divine-mobile Modéliser des sous-groupes de projet avec des simulations Monte Carlo précises et différenciées. 262 4j
7 wayback-api-archive-recovery divinevideo/divine-mobile Récupérer des données archivées d'APIs défuntes via la Wayback Machine. 262 4j
8 mini-context-graph github/awesome-copilot Construire et interroger un graphe de connaissances persistant combinant wiki, entités et sources brutes. 37 704 5j
9 rp-execute-import wix/skills Exécuter un pipeline de migration et capturer les résultats d'importation vers Wix. 26 5j
10 rp-source-csv wix/skills Gérer l'adaptation de fichiers CSV comme source de données pour pipelines de migration. 26 5j
11 upgrading-dbt-core dbt-labs/dbt-agent-skills Migrer un projet dbt-core v1 vers la version 1.12 en appliquant automatiquement les correctifs adaptés. 656 6j
12 airflow-state-store astronomer/agents Gérer l'état des tâches Airflow 3.3 avec des stores clé/valeur crash-safe. 419 6j
13 cupynumeric-parallel-data-load nvidia/skills Charger en parallèle des données multi-fichiers fragmentées dans un tableau cupynumeric distribué. 2 859 11j
14 i4h-catheter-navigation-digital-twin nvidia/skills Construire un jumeau numérique vasculaire à partir d'un volume CT segmenté. 2 859 21j
15 i4h-lerobot-viz nvidia/skills Lancer le visualiseur HTML interactif d'un dataset LeRobot converti dans le navigateur. 2 859 21j
16 i4h-workflow-dataset-convert nvidia/skills Convertir un enregistrement HDF5 agentic en dataset LeRobot prêt à l'entraînement. 2 859 21j
17 i4h-workflow-dataset-mimic nvidia/skills Augmenter un dataset HDF5 en répliquant des trajectoires avec bruit d'action et d'état. 2 859 21j
18 i4h-workflow-dataset-replay nvidia/skills Rejouer un épisode HDF5 enregistré dans Isaac Sim pour vérification visuelle. 2 859 21j
19 i4h-workflow-dataset-teleop nvidia/skills Enregistrer des épisodes de télé-opération robotique en démos HDF5 via clavier, bras leader ou VR. 2 859 21j
20 nemo-data-designer-plugin nvidia/skills Générer un dataset synthétique personnalisé via la bibliothèque Data Designer. 2 859 25j
21 nemotron-retrieval-recipes nvidia/skills Orchestrer les recettes Nemotron d'embedding et de reranking pour optimiser la récupération d'information. 2 859 26j
22 authoring-java-sdk-tasks astronomer/agents Implémenter des tâches Java pour DAGs Airflow via annotations ou interfaces JVM. 419 26j
23 authoring-language-sdk-tasks astronomer/agents Implémenter des tâches Airflow en langages non-Python via des stubs et coordinateurs natifs. 419 26j
24 configuring-airflow-language-sdks astronomer/agents Configurer Airflow pour router les tâches SDK natifs vers le bon coordinateur. 419 26j
25 building-dbt-semantic-layer dbt-labs/dbt-agent-skills Créer et modifier des composants dbt Semantic Layer : modèles, entités, dimensions et métriques. 656 27j
26 deepstream-dev nvidia/skills Développer des pipelines DeepStream SDK avec les bonnes pratiques et règles d'architecture NVIDIA. 2 859 28j
27 amc-run-video-calibration nvidia/skills Calibrer des vidéos MP4 pré-enregistrées via l'API REST AMC sans scripts CLI. 2 859 28j
28 migrating-dagster-to-airflow astronomer/agents Migrer un projet Dagster vers Airflow 3 sur Astro Runtime, domaine par domaine. 419 29j
29 authoring-go-sdk-tasks astronomer/agents Implémenter des tâches Go dans Airflow via le SDK natif avec injection de dépendances. 419 1mo
30 aiq-research nvidia/skills Interroger un serveur NVIDIA AI-Q Blueprint pour effectuer des recherches approfondies. 2 859 1mo
31 using-dbt-state dbt-labs/dbt-agent-skills Optimiser les builds dbt en réutilisant automatiquement les modèles inchangés via un serveur d'état. 656 1mo
32 airflow astronomer/agents Gérer, diagnostiquer et opérer des workflows Airflow via des commandes CLI dédiées. 419 1mo
33 metrics-chart axiomhq/skills Transformer une réponse de requête métriques en graphique temporel multi-séries. 15 1mo
34 physical-ai-people-attribute-search nvidia/skills Orchestrer le pipeline PAS d'augmentation et d'étiquetage automatique d'images de personnes. 2 859 1mo
35 earth2studio-create-datasource nvidia/skills Implémenter de bout en bout un wrapper de source de données pour Earth2Studio. 2 859 1mo
36 airflow-hitl astronomer/agents Intégrer des points de validation humaine dans un DAG Airflow via des opérateurs déférables. 419 1mo
37 analyzing-data astronomer/agents Interroger un entrepôt de données pour répondre à des questions métier. 419 1mo
38 authoring-dags astronomer/agents Créer et valider des DAGs Airflow via le CLI af en suivant les bonnes pratiques. 419 1mo
39 cosmos-dbt-core astronomer/agents Intégrer dbt Core dans Airflow via Cosmos avec la configuration optimale. 419 1mo
40 cosmos-dbt-fusion astronomer/agents Intégrer dbt Fusion avec Cosmos dans Airflow en suivant une checklist d'implémentation structurée. 419 1mo
41 dag-factory astronomer/agents Générer des DAGs Apache Airflow déclarativement depuis des fichiers YAML avec dag-factory. 419 1mo
42 debugging-dags astronomer/agents Diagnostiquer et résoudre les échecs de DAGs Airflow avec des actions correctives ciblées. 419 1mo
43 migrating-ai-sdk-to-common-ai astronomer/agents Migrer un projet Airflow de airflow-ai-sdk vers apache-airflow-providers-common-ai. 419 1mo
44 cuopt-routing-api-python nvidia/skills Résoudre des problèmes de routage VRP/TSP/PDP avec l'API Python cuOpt. 2 859 1mo
45 omni-to-snowflake-semantic-view exploreomni/omni-agent-skills Convertir un topic Omni en définition YAML Snowflake Semantic View via API. 30 1mo
46 omni-model-builder exploreomni/omni-agent-skills Créer et modifier un modèle sémantique Omni via l'API YAML en branches sécurisées. 30 1mo
47 omni-model-explorer exploreomni/omni-agent-skills Explorer un modèle sémantique Omni via la CLI pour comprendre sa structure. 30 1mo
48 omni-query exploreomni/omni-agent-skills Interroger la couche sémantique Omni via CLI pour extraire des données structurées. 30 1mo
49 physical-ai-defect-image-generation nvidia/skills Orchestrer des pipelines de génération, augmentation et labeling d'images de défauts pour l'inspection optique automatisée. 2 859 1mo
50 tao-analyze-gaps-visual-changenet nvidia/skills Identifier les échantillons les plus faibles d'un modèle VCN TAO pour cibler l'augmentation. 2 859 1mo

À propos de cette sélection

L'orchestration de données a longtemps reposé sur des scripts fragiles qu'on ne touchait plus par peur de tout casser. Des acteurs comme Astronomer et dbt Labs ont depuis industrialisé la discipline : DAGs versionnés, transformations testables, lignage de bout en bout. Les skills pipelines de données rassemblés ici couvrent des cas concrets, auditer un pipeline BigQuery pour détecter des dérives de coût ou de fraîcheur, modéliser un dataset pour l'exposer proprement à une couche BI sans multiplier les joins à la main. L'outillage disponible est solide, majoritairement Python, et couvre le spectre du prototypage local au déploiement en production supervisé. Ça parle autant aux data engineers qu'aux ML engineers qui branchent des flux en amont de leurs modèles.