duckduckgo.com scrapen

Über duckduckgo.com

duckduckgo.com beschreibt sich selbst als „Das Internet-Datenschutzunternehmen, das es Ihnen ermöglicht, die Kontrolle über Ihre persönlichen Daten online nahtlos zu übernehmen, ohne Kompromisse“.

Die Startseite deklariert 12 Sprachen: af-za, be-by, bg-bg, cs-cz, da-dk, de-de, el-gr, en-us, es-es, et-ee, fi-fi, fr-fr.

Die Sitemaps führen 318 URLs in 2 Dateien. 292 der 317 datierten Einträge haben sich in den letzten 30 Tagen geändert, der neueste am 3 Sep 2026.

Die robots.txt nennt 2 Sitemaps und sperrt 6 Pfade, darunter /lite, /html, /email/.

Gemessen auf Crawlbase

Erfolgsquote über jeden Request jedes Accounts im August 2026: 95.9%. Muster, Länder und Fehler stammen aus dem Request-Log seit 14 Aug 2026; 0.0% der erfolgreichen Aufrufe nutzten den JavaScript-Token, die mittlere Antwort dauerte 2.1s.

Unter den 11 Tech und Entwickler-Websites im Cookbook steht duckduckgo.com nach Erfolgsrate auf Platz 8 von 11; der Median der Kategorie liegt bei 97.8%. Die mittlere Antwort von 2.1s liegt auf dem Kategorie-Median von 1.9s. 8 der 11 nehmen den einfachen Token an, diese Website auch.

Der Call

Die häufigste Form der URL, die die Accounts abrufen, mit dem country und dem Token, die am häufigsten erfolgreich sind. Ersetzen Sie den Platzhalter-Pfad durch einen echten Pfad der Website.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.duckduckgo.com%2Fexample-page"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.duckduckgo.com/example-page')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.duckduckgo.com/example-page');

Parameter, die zählen

URL-Muster, die Accounts abrufen

Felder, die Sie bekommen

Die Felder hängen vom Seitentyp ab. Produktseiten tragen meist einen ld+json-Block mit Name, Preis, Währung und Verfügbarkeit, Artikelseiten eine Überschrift und den Text; prüfen Sie die erste Antwort, die Sie erhalten.

Was kaputtgeht, und die Lösung

Bei den Fehlern seit 14 Aug 2026 hat die Website geantwortet mit:

Nach Zeitplan ausführen

Die mittlere Antwortzeit auf dieser Website liegt bei 2.1s. Übergeben Sie für alles über ein paar tausend Seiten pro Tag eine URL-Liste mit Callback an den Crawler; er taktet die Calls und wiederholt, was die Website ablehnt.

Fragen

Weitere Seiten auf duckduckgo.com

Seiten, die duckduckgo.com in den eigenen Sitemaps führt, am 6 Sep 2026 von Crawlbase abgerufen und in 2 aufeinanderfolgenden Läufen bestätigt. Jede Zeile ist der günstigste Call, der die Seite mit Inhalt zurückgab.