รวบรวมข้อมูล

เครื่องมือตรวจสอบ Robots.txt และ Sitemap

วางโดเมนเพื่อตรวจสอบ robots.txt และรวบรวมข้อมูล sitemap ที่เชื่อมโยง (รูปแบบ root/blog/blacklist/forum) แสดง URL ที่ถูกบล็อก sitemap ที่ไม่มีการเชื่อมโยง และรายการที่มีรูปแบบไม่ถูกต้อง ทำงานฝั่งไคลเอ็นต์เท่านั้น—อาจถูกจำกัดด้วย CORS

ตรวจสอบ

สิ่งที่เราตรวจสอบ

  • ความพร้อมใช้งานของ robots.txt และกฎ Disallow/Allow
  • การค้นหา sitemap (robots.txt + เส้นทางทั่วไป เช่น /sitemap.xml, /blog/sitemap.xml)
  • จำนวน URL ต่อ sitemap และรายการที่มีรูปแบบไม่ถูกต้อง
  • ทำเครื่องหมาย URL ที่ถูกบล็อกแต่ยังปรากฏใน sitemap