Web Scraping & Crawling

Extraction de donnees web : crawlers, RSS, Apify, indexation.

13 skills

# Skill Source Description
1 tavily-best-practices tavily-ai/skills Accéder à des données web en temps réel via une API de recherche optimisée pour les LLMs. 359
2 tavily-cli tavily-ai/skills Rechercher, extraire, crawler et analyser le web via Tavily CLI. 359
3 tavily-dynamic-search tavily-ai/skills Filtrer et extraire des résultats web sans polluer la fenêtre de contexte. 359
4 literature-search-arxiv mkurman/zorai Rechercher, télécharger et extraire des métadonnées de publications arXiv. 309
5 literature-search-biorxiv mkurman/zorai Rechercher des prépublications bioRxiv et medRxiv par date, catégorie ou DOI. 309
6 literature-search-europepmc mkurman/zorai Rechercher et télécharger des articles scientifiques en libre accès depuis Europe PMC. 309
7 parallel-web mkurman/zorai Effectuer des recherches web rapides ou approfondies et sauvegarder les résultats. 309
8 perplexity-search mkurman/zorai Effectuer des recherches web en temps réel avec citations via les modèles Perplexity. 309
9 pubchem-database mkurman/zorai Interroger la base PubChem pour obtenir données chimiques, propriétés et interactions biologiques. 309
10 pubmed-database mkurman/zorai Interroger PubMed et PubMed Central via une CLI Python unifiée à dix fonctions. 309
11 wayback-cdx-wildcard-pagination divinevideo/divine-mobile Paginer l'API CDX Wayback Machine avec des requêtes wildcard via showResumeKey. 254
12 wayback-indirect-asset-recovery divinevideo/divine-mobile Récupérer des assets introuvables via l'extraction indirecte depuis Wayback Machine. 254
13 wayback-machine-raw-content-id-modifier divinevideo/divine-mobile Récupérer le contenu brut d'archives Wayback Machine via le modificateur id_. 254

À propos de cette sélection

L'outillage de scraping web a longtemps ressemblé à un chantier artisanal : un script Playwright bricolé, un cron qui tombe en silence, des sélecteurs CSS qui rendent l'âme dès qu'un front-end se restructure. Les agents IA changent la donne. Ils ont besoin d'accéder au web de façon fiable, autonome et reproductible, et c'est précisément ce que couvrent les skills web scraping & crawling rassemblés ici. De quoi piloter un navigateur headless pour extraire des données structurées depuis des pages dynamiques, ou brancher un agent sur un moteur de recherche comme Tavily et Brave sans écrire une ligne de parsing. Ces skills s'adressent aux développeurs Python ou TypeScript qui alimentent des pipelines de données, construisent des agents de veille ou enrichissent des datasets pour du fine-tuning. L'écosystème couvre déjà une bonne partie des cas d'usage courants.