apache禁止爬虫

Apache 
①、通过修改 .htaccess文件 
修改网站目录下的.htaccess，添加如下代码即可 

公司主营业务：网站建设、做网站、移动网站开发等业务。帮助企业客户真正实现互联网宣传，提高企业的竞争能力。创新互联是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化，感谢他们对我们的高要求，感谢他们从不同领域给我们带来的挑战，让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联推出峨边彝族免费做网站回馈大家。

 RewriteEngine On

RewriteCond %{HTTP_USER_AGENT} (^$|FeedDemon|JikeSpider|Indy ) [NC] 
RewriteRule ^(.*)$ - [F] 

②、通过修改httpd.conf配置文件 
找到如下类似位置，根据以下代码 新增 / 修改，然后重启Apache即可： 
DocumentRoot /home/wwwroot/xxx 
 
         SetEnvIfNoCase User-Agent ".*(FeedDemon|JikeSpider|Indy )" BADBOT 
        Order allow,deny 
        Allow from all 
       deny from env=BADBOT