در وب مستر گوگل به بخش Crawl و بعدش robots.txt Tester بروید. اینجا آخرین نسخه robots.txt مربوط به روت سایت شما را نشون میده و میتونید از پایین صفحه یک آدرس را بزنید و تست کنید که در کدام قسمت robots.txt بلوک میشه
یک robots.txt در ساده ترین حالت استانداردش برای وردپرس به شکل زیر باید باشه:
کد:
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
مشکل دیگری که ممکن هست وجود داشته باشه اینه که شما از resource هایی در صفحات خودتون استفاده کرده باشید که توسط robots.txt های سایت مبدا بلوک شده باشه٫ برای تست کردن این موضوع هم به قسمت Google Index و بعدش Blocked Resources مراجعه کنید و ببینید که دقیقا کدام Resource ها بلوکه شده