Scraper les pages sport sur bbc.com

À propos de bbc.com

bbc.com se décrit ainsi : « Consultez la BBC pour une couverture fiable de l’actualité mondiale et américaine, du sport, de l’économie, du climat, de l’innovation, de la culture et bien plus encore ».

Sa page d’accueil déclare 2 langues : en, en-gb.

Ses sitemaps listent 219 696 URL dans 18 fichiers. 4 898 des 219 696 entrées datées ont changé au cours des 30 derniers jours, la plus récente le 6 sept. 2026.

Son robots.txt nomme 38 sitemaps et interdit 12 chemins, dont /asset/.

Mesuré sur Crawlbase

Taux de réussite sur chaque requête de chaque compte en août 2026 : 97.9%. Motifs, pays et échecs viennent du journal des requêtes depuis le 14 août 2026 ; 22.6% des appels réussis ont utilisé le token JavaScript et la réponse médiane a pris 5.4s.

Parmi les 74 sites actualités et médias du Cookbook, bbc.com se place 49 sur 74 au taux de réussite ; la médiane de la catégorie est de 98.9%. Sa réponse médiane de 5.4s est plus lente que la médiane de la catégorie, 2.3s. 58 des 74 acceptent le token simple ; celui-ci seulement sur certaines pages.

L’appel

Les pages d’article sont la forme que les comptes récupèrent le plus ici, avec le pays et le token qui réussissent le plus souvent. Remplacez le chemin fictif par une vraie URL d’article du site.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.bbc.com%2Fsport%2Fexample-section%2Fexample-page"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.bbc.com/sport/example-section/example-page')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.bbc.com/sport/example-section/example-page');

Les paramètres qui comptent

Motifs d’URL que les comptes récupèrent

Les champs que vous obtenez

Données structurées que Crawlbase a trouvées sur bbc.com, par type de page. Ce sont les types schema.org de la page, les champs que votre parseur peut lire directement dans le bloc JSON-LD :

• Accueil: WebPage
• Liste: WebPage
• Autre: WebPage

Ce qui casse, et la solution

Sur les échecs depuis le 14 août 2026, le site a répondu :

Lancez-la de façon planifiée

L’actualité bouge d’heure en heure. Interrogez la rubrique ou le sitemap pour les nouveaux liens, puis envoyez les URL d’articles au Crawler avec un callback pour que les récupérations soient régulées. La réponse médiane sur ce site est de 5.4s.

Questions

Autres pages sur bbc.com

Pages que bbc.com liste dans ses propres sitemaps, récupérées par Crawlbase le 6 sept. 2026 et vérifiées sur 2 passages consécutifs. Chaque ligne est l’appel le moins cher qui a renvoyé la page avec son contenu.