Cookbook·Données publiques·justice.gov
Scraper justice.gov
L’appel qui renvoie la page d’accueil de justice.gov aujourd’hui, avec les paramètres, les motifs et les modes d’échec lus dans le journal des requêtes depuis le 14 août 2026. Dernier test le 6 sept. 2026.
97.2% de réussite · août 2026Browser sur 58% des appelsPrix Standard · 1 crédit
À propos de justice.gov
justice.gov se décrit ainsi : « Site officiel du ministère de la Justice des États-Unis (DOJ) ».
Ses sitemaps listent 38 000 URL dans 19 fichiers. 158 des 38 000 entrées datées ont changé au cours des 30 derniers jours, la plus récente le 2 sept. 2026.
Son robots.txt nomme 1 sitemap et interdit 12 chemins, dont /core/, /profiles/, /admin/. Il demande aux crawlers d’attendre 10s entre les requêtes.
Mesuré sur Crawlbase
Taux de réussite sur chaque requête de chaque compte en août 2026 : 97.2%. Motifs, pays et échecs viennent du journal des requêtes depuis le 14 août 2026 ; 57.6% des appels réussis ont utilisé le token JavaScript et la réponse médiane a pris 9.8s.
Parmi les 11 sites données publiques du Cookbook, justice.gov se place 6 sur 11 au taux de réussite ; la médiane de la catégorie est de 97.2%. Sa réponse médiane de 9.8s est plus lente que la médiane de la catégorie, 2.3s. 5 des 11 acceptent le token simple ; celui-ci seulement sur certaines pages.
L’appel
La forme d’URL la plus courante que les comptes récupèrent, avec le country et le token qui réussissent le plus souvent. Remplacez le chemin fictif par un vrai chemin du site.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.justice.gov%2F"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.justice.gov/') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.justice.gov/');
Les paramètres qui comptent
| Paramètre | Valeur | Pourquoi |
|---|---|---|
country | laisser vide | La plupart des appels réussis ne définissent aucun country (100%) et réussissent à 97.5%. |
javascript | laisser vide | Les appels avec le token simple réussissent à 98.2%, ceux avec le token JavaScript à 97.0%. Les deux fonctionnent ; commencez sans browser et basculez par motif d’URL là où le tableau ci-dessous l’indique. |
Les champs que vous obtenez
Les champs dépendent du type de page. Les pages produit portent en général un bloc ld+json avec nom, prix, devise et disponibilité, les pages article un titre et un corps ; vérifiez la première réponse obtenue.
Ce qui casse, et la solution
Sur les échecs depuis le 14 août 2026, le site a répondu :
403 : 19.0% des échecs Un 403 est le site qui refuse la sortie. Définissez le country utilisé par les appels réussis et réessayez une fois ; un second 403 signifie que l’URL elle-même est protégée.
0 : 18.9% des échecs Un statut 0 est un request qui n’a jamais reçu de réponse dans le timeout. Réessayez une fois avec le token JavaScript si le motif a besoin d’un browser.
504 : 15.3% des échecs Un 504 est un timeout : la page n’a pas fini de charger dans la limite. Réessayez une fois, et gardez le timeout de votre propre client au-dessus du temps de réponse médian affiché pour ce site.
530, 500 : 24.6% des échecs ensemble Un 5xx est le site qui échoue, pas la récupération. Réessayez après une minute.
Lancez-la de façon planifiée
La réponse médiane sur ce site est de 9.8s. Envoyez une liste d’URL au Crawler avec un callback pour tout ce qui dépasse quelques milliers de pages par jour ; il régule les appels et réessaie ce que le site refuse.
Questions
Ai-je besoin d’un browser pour scraper justice.gov ?
Cela dépend de la page. Les appels avec le token simple réussissent à 98.2%, ceux avec le token JavaScript à 97.0% ; le tableau des motifs d’URL montre quels chemins les comptes récupèrent avec un browser.
Combien coûte une page justice.gov sur Crawlbase ?
1 crédit sans browser. justice.gov est dans le tier standard.
Quel country dois-je définir pour justice.gov ?
Aucun n’est nécessaire : la plupart des appels réussis le laissent vide.
Autres pages sur justice.gov
Pages que justice.gov liste dans ses propres sitemaps, récupérées par Crawlbase le 6 sept. 2026 et vérifiées sur 2 passages consécutifs. Chaque ligne est l’appel le moins cher qui a renvoyé la page avec son contenu.
| Page | Exemple | Token | Pays | Médiane |
|---|---|---|---|---|
Accueil/ | justice.gov/ | Simple | aucun | 1.8s |
Article/{slug}/{slug}/blog | aucun | JavaScript | aucun | 18.7s |
Autre/{slug}/{slug}/{slug} | aucun | Simple | aucun | 6.7s |
Les noms de sites identifient les pages qu’une recette récupère. Crawlbase n’est affilié à aucun site listé. Utilisez les recettes dans le cadre de la politique d’utilisation acceptable.Chiffres mesurés de août 2026, actualisés chaque mois