À propos
Une API de recherche d'actualités pour les agents et les applications, avec un plan gratuit et le texte intégral des articles.
Le problème
Un agent qui a besoin d'informations actuelles a besoin de plus que des titres. Il a besoin de l'article lui-même, et il doit savoir quels champs ont été observés et lesquels ont été déduits. La plupart des API d'actualités vendent le corps de l'article dans un abonnement payant et ne précisent pas d'où proviennent leurs métadonnées. La comparaison contient les détails.
Ce que nous avons construit
Recherche en texte intégral sur des centaines de milliers d'articles d'actualités par jour provenant de plus de 25,000 éditeurs dans plus de 90 pays et 50 langues, sur une fenêtre glissante de 90 jours, mise à jour en continu. Quatre points de terminaison GET et une clé API.
Comment le service est financé
Honnêtement : cela coûte presque rien.
Les données proviennent d'archives d'actualités publiques à grande échelle — des ensembles de données massifs de pages d'actualités déjà crawlées, publiés en continu. Nous ne licenciions pas de contenu auprès des éditeurs et nous ne récupérons pas de pages depuis leurs serveurs ; nous traitons des ensembles de données déjà publics.
Ces quatre-vingt-dix jours de données, indexés et répliqués trois fois, occupent environ 3% d'un cluster Elasticsearch que nous exploitons déjà pour d'autres travaux. Servir une requête de recherche consomme du temps CPU que nous avons en surplus. La capacité mesurée est de 1,247 requêtes par seconde ; un seul client est limité à 20.
Restera-t-il gratuit
Le plan gratuit perdure. Nous promettions auparavant que la recherche resterait accessible sans clé ; cela s'est terminé en 2026, et le journal des modifications explique pourquoi. Toute modification ultérieure y sera annoncée avant sa mise en œuvre.
Qui le gère
Une petite équipe indépendante qui exploite des infrastructures de recherche et de données — clusters Elasticsearch, robots d'indexation et pipelines — comme activité principale. Ce service fonctionne sur cette même infrastructure, ce qui explique précisément pourquoi il peut être offert gratuitement.
Contact
- Éditeurs souhaitant une exclusion : consultez la section éditeurs. Les demandes sont respectées, sans discussion.
- Données en masse : si vous prévoyez des dizaines de milliers de requêtes, contactez-nous au préalable — il existe une méthode plus adaptée pour vous fournir les données que le protocole HTTP.
- Bugs et données erronées : indiquez-nous quel article pose problème et ce qui ne va pas. Les libellés de pays ou de dates incorrects sont les plus courants et les plus utiles à nous signaler.
Envoyez un email à [email protected].
Ce que nous ne faisons pas
- Nous n'hébergeons pas le contenu des articles. Chaque réponse inclut la
urloriginale — attribuez et renvoyez vers celle-ci. - Nous ne vendons pas vos données ni n'affichons de publicités. Consultez la confidentialité.
- Nous ne classons pas les éditeurs par crédibilité ni n'appliquons de filtre politique. Ce que Common Crawl a atteint est ce que vous obtenez, et cela a des conséquences.