Cookbook·Données publiques·nyc.gov
Scraper nyc.gov
L’appel qui renvoie les pages de nyc.gov aujourd’hui, avec les paramètres, les motifs et les modes d’échec lus dans le journal des requêtes depuis le 14 août 2026. Dernier test le 6 sept. 2026.
92.0% de réussite · août 2026Browser sur 12% des appelsPrix Standard · 1 crédit
À propos de nyc.gov
nyc.gov se décrit ainsi : « Sur la page d’accueil de nyc.gov, vous pouvez consulter l’état du jour pour le stationnement, les écoles et la collecte des déchets. Vous pouvez aussi accéder aux services les plus utilisés, aux actualités et aux nouveautés de la Ville de New York ».
Ses sitemaps listent 11 718 URL dans 8 fichiers (nycgov.sitemap.mayors-office-nycgov-sitemap, nycgov.sitemap.jobs-nycgov-sitemap, nycgov.sitemap.mayors-office-nycgov-sitemap-2, nycgov.sitemap.main-nycgov-sitemap). 250 des 11 718 entrées datées ont changé au cours des 30 derniers jours, la plus récente le 4 sept. 2026.
Son robots.txt interdit 1 chemin.
Mesuré sur Crawlbase
Taux de réussite sur chaque requête de chaque compte en août 2026 : 92.0%. Motifs, pays et échecs viennent du journal des requêtes depuis le 14 août 2026 ; 11.8% des appels réussis ont utilisé le token JavaScript et la réponse médiane a pris 1.8s.
Parmi les 11 sites données publiques du Cookbook, nyc.gov se place 10 sur 11 au taux de réussite ; la médiane de la catégorie est de 97.2%. Sa réponse médiane de 1.8s est plus rapide que la médiane de la catégorie, 2.3s. 5 des 11 acceptent le token simple ; celui-ci seulement sur certaines pages.
L’appel
La forme d’URL la plus courante que les comptes récupèrent, avec le country et le token qui réussissent le plus souvent. Remplacez le chemin fictif par un vrai chemin du site.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.nyc.gov%2Fexample-section%2Fexample-page%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.nyc.gov/example-section/example-page/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.nyc.gov/example-section/example-page/example-page');
Les paramètres qui comptent
| Paramètre | Valeur | Pourquoi |
|---|---|---|
country | laisser vide | La plupart des appels réussis ne définissent aucun country (99.8%) et réussissent à 90.4%. |
javascript | laisser vide | Les appels avec le token simple réussissent à 89.1% et représentent 87.4% du trafic. Un browser coûte plus cher et, sur ce site, n’apporte rien. |
Motifs d’URL que les comptes récupèrent
| Motif | Part des réussites | Token JavaScript | Country | Paramètres de requête |
|---|---|---|---|---|
/{slug}/{slug}/{slug} | 92.0% | 32.9% | aucun | hid_borough, hid_block, hid_lot |
Les champs que vous obtenez
Les champs dépendent du type de page. Les pages produit portent en général un bloc ld+json avec nom, prix, devise et disponibilité, les pages article un titre et un corps ; vérifiez la première réponse obtenue.
Ce qui casse, et la solution
Sur les échecs depuis le 14 août 2026, le site a répondu :
410 : 46.2% des échecs 410 signifie que le site a refusé la récupération. Traitez-le comme un blocage : réessayez une fois avec le token JavaScript et le pays des appels réussis, puis arrêtez.
404 : 30.4% des échecs Notez qu’un 404 compte comme une réussite dans ces chiffres : le site a répondu et la page a disparu. Considérez-la comme disparue, pas comme un réessai.
0 : 16.1% des échecs Un statut 0 est un request qui n’a jamais reçu de réponse dans le timeout. Réessayez une fois avec le token JavaScript si le motif a besoin d’un browser.
Lancez-la de façon planifiée
La réponse médiane sur ce site est de 1.8s. Envoyez une liste d’URL au Crawler avec un callback pour tout ce qui dépasse quelques milliers de pages par jour ; il régule les appels et réessaie ce que le site refuse.
Questions
Ai-je besoin d’un browser pour scraper nyc.gov ?
Non. 89.1% des appels avec le token simple réussissent et les comptes envoient 87.4% de leur trafic sans browser.
Combien coûte une page nyc.gov sur Crawlbase ?
1 crédit sans browser. nyc.gov est dans le tier standard.
Quel country dois-je définir pour nyc.gov ?
Aucun n’est nécessaire : la plupart des appels réussis le laissent vide.
Autres pages sur nyc.gov
Pages que nyc.gov liste dans ses propres sitemaps, récupérées par Crawlbase le 6 sept. 2026 et vérifiées sur 2 passages consécutifs. Chaque ligne est l’appel le moins cher qui a renvoyé la page avec son contenu.
| Page | Exemple | Token | Pays | Médiane |
|---|---|---|---|---|
Accueil/ | nyc.gov/ | Simple | aucun | 4.4s |
Recherche/{slug}/search | aucun | Simple | aucun | 1.4s |
Page détail/{slug}/{slug}/{slug} | aucun | Simple | aucun | 2.9s |
Article/{slug}/news/{id} | aucun | Simple | aucun | 2.6s |
Autre/{slug}/{slug}/{slug} | aucun | Simple | aucun | 3.0s |
Les noms de sites identifient les pages qu’une recette récupère. Crawlbase n’est affilié à aucun site listé. Utilisez les recettes dans le cadre de la politique d’utilisation acceptable.Chiffres mesurés de août 2026, actualisés chaque mois