Brique de base dans les processus d’implémentation sur le web, les fichiers Robots.txt sous leurs dehors compliqués sont en fait des éléments simples qui vous permettront de gagner en visibilité sur le net. Il s’agit de fichiers textes utilisés pour le référencement par l’ensemble des moteurs de recherche dans lesquels sont inscrits le programme à exécuter par les robots d’indexation afin de leur permettre de savoir quels sites doivent être indexés et quels autres ne doivent pas l’être. En bref, les fichier robots.txt sont les premières informations que recherchent les moteurs de recherche sur chaque site pour pouvoir les classer et les analyser.

De quoi se compose t-il ?

Le fichier robots.txt est un fichier ASCII qui contient les commandes qui suivent :

  • Le User-agent qui permet d’attribuer les commandes à exécuter à un robot ou à plusieurs ;
  • Le Disallow où sont inscrits les pages à inclure dans l’indexation. C’est sur cette catégorie que vous aurez un pouvoir d’action en l’autorisant. Modifier cette partie vous permettra d’obtenir une meilleure situation dans le référencement naturel du moteur de recherche. Cependant, cette manipulation requiert une habilité particulière et une certaine expérience sur les moteurs de recherche.

L’outil gratuit permet de créer un fichier Robots.txt à partir des nombreuses informations renseignées. Paramétrez les infos de votre site avant de cliquez sur le bouton pour générer gratuitement le fichier en ligne. Une fois généré, vous pouvez télécharger le fichier Robots.txt our alors créer le fichier avec le bloc note par exemple au nom de Robots.txt (.txt étant l’extention) en éditant avec les données fournies puis placez ce document à la racine de votre site web. Une fois mis en place, renseignez à Google la présence de ce fichier via https://www.google.com/webmasters/tools/

Les outils SEO gratuits

https://www.google.com/webmasters/tools Google permet de créer un fichier Robots.txt depuis le Serach Console. Sélectionnez votre site dans la liste puis allez dans Exploration > Outil de test du fichier robots.txt

https://fr.ryte.com/free-tools/robots-txt-generator/ Simple, cet outil générateur Robots.txt permet d’autoriser ou bloquer les robots à crawler les pages ou certaines pages de votre site web. Le service online permet de personnaliser et indiquer quel robot peut accéder ou non à un répertoire ou adresse url.