รวบรวมข้อมูล
เครื่องมือตรวจสอบ Robots.txt และ Sitemap
วางโดเมนเพื่อตรวจสอบ robots.txt และรวบรวมข้อมูล sitemap ที่เชื่อมโยง (รูปแบบ root/blog/blacklist/forum) แสดง URL ที่ถูกบล็อก sitemap ที่ไม่มีการเชื่อมโยง และรายการที่มีรูปแบบไม่ถูกต้อง ทำงานฝั่งไคลเอ็นต์เท่านั้น—อาจถูกจำกัดด้วย CORS
ตรวจสอบ
สิ่งที่เราตรวจสอบ
- ความพร้อมใช้งานของ robots.txt และกฎ Disallow/Allow
- การค้นหา sitemap (robots.txt + เส้นทางทั่วไป เช่น /sitemap.xml, /blog/sitemap.xml)
- จำนวน URL ต่อ sitemap และรายการที่มีรูปแบบไม่ถูกต้อง
- ทำเครื่องหมาย URL ที่ถูกบล็อกแต่ยังปรากฏใน sitemap