Scraper les articles sur refinery29.com

À propos de refinery29.com

refinery29.com se décrit ainsi : « Là où le style rencontre la substance : mode, divertissement, actualités et bien-être au quotidien ».

Sa page d’accueil déclare 5 langues : en-au, fr, en-ca, de, en-gb.

Ses sitemaps listent 567 URL dans 19 fichiers. 514 des 567 entrées datées ont changé au cours des 30 derniers jours, la plus récente le 26 août 2026.

Son robots.txt nomme 1 sitemap et interdit 12 chemins, dont /api/, /shops/, /sweeps/. Il demande aux crawlers d’attendre 1s entre les requêtes.

Mesuré sur Crawlbase

Taux de réussite sur chaque requête de chaque compte en août 2026 : 99.9%. Motifs, pays et échecs viennent du journal des requêtes depuis le 14 août 2026 ; 0.0% des appels réussis ont utilisé le token JavaScript et la réponse médiane a pris 5.7s.

Parmi les 74 sites actualités et médias du Cookbook, refinery29.com se place 14 sur 74 au taux de réussite ; la médiane de la catégorie est de 98.9%. Sa réponse médiane de 5.7s est plus lente que la médiane de la catégorie, 2.3s. 58 des 74 acceptent le token simple, celui-ci compris.

L’appel

Les pages d’article sont la forme que les comptes récupèrent le plus ici, avec le pays et le token qui réussissent le plus souvent. Remplacez le chemin fictif par une vraie URL d’article du site.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.refinery29.com%2Fen-us%2Fkitten-scents"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.refinery29.com/en-us/kitten-scents')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.refinery29.com/en-us/kitten-scents');

Les paramètres qui comptent

Motifs d’URL que les comptes récupèrent

Les champs que vous obtenez

Données structurées que Crawlbase a trouvées sur refinery29.com, par type de page. Ce sont les types schema.org de la page, les champs que votre parseur peut lire directement dans le bloc JSON-LD :

• Accueil: Organization, WebPage, WebSite
• Page détail: WebPage, WebSite, ImageObject, Product
• Autre: WebPage, WebSite, Article, BreadcrumbList, ImageObject, Person, Product

Ce qui casse, et la solution

Lancez-la de façon planifiée

L’actualité bouge d’heure en heure. Interrogez la rubrique ou le sitemap pour les nouveaux liens, puis envoyez les URL d’articles au Crawler avec un callback pour que les récupérations soient régulées. La réponse médiane sur ce site est de 5.7s.

Questions

Autres pages sur refinery29.com

Pages que refinery29.com liste dans ses propres sitemaps, récupérées par Crawlbase le 6 sept. 2026 et vérifiées sur 2 passages consécutifs. Chaque ligne est l’appel le moins cher qui a renvoyé la page avec son contenu.