🤖 robots.txt 產生器
快速產生搜尋引擎爬蟲規則,控制可索引與不可索引區域
⚠️ 規則檢查提醒
📊 規則統計
0
User-agent
0
Allow 規則
0
Disallow 規則
📖 使用教學
- 選擇模板,輸入網站 URL 與 Sitemap URL。
- 在自訂規則區補上特定爬蟲或目錄控制規則。
- 點擊「生成 robots.txt」後檢查提醒訊息。
- 確認後直接下載並部署到網站根目錄:`/robots.txt`。
❓ 常見問題
Q: robots.txt 可以阻止敏感資料外洩嗎?
A: 不能。robots.txt 只是爬蟲建議,無法作為安全控制。敏感內容請用權限與伺服器層保護。
Q: Disallow: / 會發生什麼事?
A: 代表封鎖整站爬取,通常只適合 staging 或維護期,不建議放在正式站。
Q: Sitemap 一定要放嗎?
A: 非強制,但建議放,能幫助搜尋引擎更快找到可索引頁面。
想一起補齊技術 SEO? SEO Meta Tag 產生器 | URL分析器 | 查看所有工具