User-agent: * Disallow: /ja/published/JP/No/2008049103 Disallow: /ja/published/JP/No/2009048619 # Yahoo。昔は分単位だったが、今は不明らしい。一応、分単位という想定で書いておく。 User-agent: Slurp Crawl-delay: 1 # msn User-agent: msnbot Crawl-delay: 10 # 百度 単位:秒 User-agent: baiduspider Crawl-delay: 120 User-agent: Baiduspider Crawl-delay: 120 User-agent: Baiduspider+ Crawl-delay: 120 # Naver 単位:秒 User-agent: yetibot Crawl-delay: 60 User-agent: yeti Crawl-delay: 60 crawl-delay :60