# robots.txt for Hunter Official Frontend # 獵才網站前台機器人協議 # 允許所有搜尋引擎爬取 User-agent: * # 允許爬取的主要內容頁面 Allow: / Allow: /about-us Allow: /job-list Allow: /recruitment-services Allow: /recruitment-articles Allow: /recruitment-trending Allow: /talents-services Allow: /talents-articles Allow: /talents-career Allow: /recruiting-consultants Allow: /attorney Allow: /faq/ Allow: /privacy-policy/ Allow: /articles/ Allow: /special-reports-topic/ Allow: /edm/ # 禁止爬取的路徑 # 個人資料相關頁面 Disallow: /message/ Disallow: /job/complete # API 路徑 Disallow: /api/ Disallow: /_nuxt/ # 系統檔案 Disallow: /build/ Disallow: /logs/ Disallow: /*.json$ Disallow: /*.js$ Disallow: /*.css$ # 動態參數頁面限制 (避免重複內容) #Disallow: /*?* # 特定搜尋引擎設定 # Google Bot User-agent: Googlebot Allow: / Allow: /edm/ Disallow: /message/ Disallow: /api/ # Bing Bot User-agent: Bingbot Allow: / Allow: /edm/ Disallow: /message/ Disallow: /api/ # 爬蟲頻率限制 Crawl-delay: 1 # Sitemap 位置 Sitemap: https://hunter.104.com.tw/sitemap.xml