Przyznam się szczerze, że przez kilka lat, aż do dzisiaj nie miałem na serwerze, gdzie trzymam swój prywatny blog pliku robots.txt. Jednak wraz z uruchomieniem tego bloga postanowiłem to zmienić. Poczytałem sobie zawartość plików robots.txt na kilku najbardziej popularnych blogach technologicznych, które „chodzą” na WordPressie, kilka artykułów na ten temat i w końcu znalazłem chyba najpełniejszą zawartość pliku rotobts.txt, jaką można zastosować bez szkody dla serwisu opartym na WordPressie, przynajmniej na początku jego istnienia.