github.com scrapen

Gemessen auf Crawlbase

Erfolgsquote über jeden Request jedes Accounts im August 2026: 94.5%. Muster, Länder und Fehler stammen aus dem Request-Log seit 14 Aug 2026; 18.4% der erfolgreichen Aufrufe nutzten den JavaScript-Token, die mittlere Antwort dauerte 1.6s.

Unter den 11 Tech und Entwickler-Websites im Cookbook steht github.com nach Erfolgsrate auf Platz 10 von 11; der Median der Kategorie liegt bei 97.8%. Die mittlere Antwort von 1.6s liegt auf dem Kategorie-Median von 1.9s. 8 der 11 nehmen den einfachen Token an; diese Website nur auf manchen Seiten.

Der Call

Die häufigste Form der URL, die die Accounts abrufen, mit dem country und dem Token, die am häufigsten erfolgreich sind. Ersetzen Sie den Platzhalter-Pfad durch einen echten Pfad der Website.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.github.com%2F"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.github.com/')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.github.com/');

Parameter, die zählen

URL-Muster, die Accounts abrufen

Felder, die Sie bekommen

Die Felder hängen vom Seitentyp ab. Produktseiten tragen meist einen ld+json-Block mit Name, Preis, Währung und Verfügbarkeit, Artikelseiten eine Überschrift und den Text; prüfen Sie die erste Antwort, die Sie erhalten.

Was kaputtgeht, und die Lösung

Bei den Fehlern seit 14 Aug 2026 hat die Website geantwortet mit:

Nach Zeitplan ausführen

Die mittlere Antwortzeit auf dieser Website liegt bei 1.6s. Übergeben Sie für alles über ein paar tausend Seiten pro Tag eine URL-Liste mit Callback an den Crawler; er taktet die Calls und wiederholt, was die Website ablehnt.

Fragen

Weitere Seiten auf github.com

Seiten, die github.com in den eigenen Sitemaps führt, am 5 Sep 2026 von Crawlbase abgerufen und in 2 aufeinanderfolgenden Läufen bestätigt. Jede Zeile ist der günstigste Call, der die Seite mit Inhalt zurückgab.