Derniers Articles
YouTube va compter les vues dès la première seconde à partir du 24 août ChatGPT Ads arrive en Europe : la publicité s’invite dans vos conversations avec l’IA Une offre d’emploi de Google confirme ce qu’on observe dans Discover Combien coûte vraiment un projet e-commerce B2B ? Ce qu’il faut budgéter en 2026 Étude Ahrefs : un mois après leur lancement en France, les AI Overviews font déjà chuter le CTR de 23 % L’édition d’août 2026 de Réacteur est en ligne ! Google Spam Update d’août 2026 : nouvelle mise à jour anti-spam Goossips SEO : Hreflang & Indexation ChatGPT peut visiter vos pages interdites, et OpenAI l’assume Microsoft Clarity : nouvel indicateur pour mesurer si le scraping des IA vous rapporte du traficLire l'article complet : Goossips SEO : Robots.txt, Nombre de mots, Techniques SEO
Publié le 28/01/2025 à 07:00:00 par Abondance
Goossips SEO : Robots.txt, Nombre de mots, Techniques SEO
Quelques infos sur Google (et Bing parfois) et son moteur de recherche, glanées ici et là de façon officieuse ces derniers jours, avec au programme cette semaine quelques réponses à ces angoissantes questions : Est-ce une bonne idée de modifier dynamiquement un robots.txt ? La longueur d'un contenu a-t-il une importance ? Le SEO peut-il nuire au référencement d'un site ?
Ne modifiez pas le robots.txt de façon dynamique
John Mueller déconseille fortement de modifier dynamiquement le fichier robots.txt plusieurs fois par jour. Il explique que cela n'est pas efficace, car Google met en cache ce fichier pendant environ 24 heures. Cette recommandation fait suite à une question d'un technicien qui souhaitait bloquer Googlebot le matin via robots.txt et le ré-autoriser l'après-midi pour éviter une surcharge serveur. John Mueller suggère plutôt d'utiliser les codes d'erreur 503 ou 429 pour gérer temporairement une charge de crawl trop importante.
Source : Search Engine Roundtable
Taux de fiabilité : 

On est d'accord !
Comme le dit John Mueller, ce type de pratique est une fausse bonne idée, en plus d’être quelque peu alambiquée. L’utilisation d’un code 503 ou 429 semble effectivement la meilleure solution à envisager ici.
Goossip #2