收藏饭特稀音乐模式

仙游论坛(funtesy.com)——生活如此多“娇”!!

 找回密码
 加入我们吧!注册会员

QQ登录

只需一步,快速开始

扫一扫,访问微社区

搜索
查看: 2464|回复: 0

robots.txt规则代写 robots robots文件-SEO优化

[复制链接]
  • TA的每日心情

    2013-3-5 02:22 AM
  • 签到天数: 6 天

    [LV.2]饭团之家I

    发表于 2013-11-20 02:05:10 | 显示全部楼层 |阅读模式

    欢迎加入仙游论坛!!

    您需要 登录 才可以下载或查看,没有帐号?加入我们吧!注册会员

    x
    robots.txt

      robots.txt写法
    robots.txt是一个协议,而不是一个命令。robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
    当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。百度官方建议,仅当您的网站包含不希望被搜索引擎收录的内容时,才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容,请勿建立robots.txt文件。
    robots.txt必须放置在一个站点的根目录下,文件名必须全部小写。

    语法:最简单的robots.txt 文件使用两条规则:
    ·User-Agent: 适用下列规则的漫游器(访问的设备)
    ·Disallow: 要拦截的网页
    如果其他网站链接了您robots.txt文件中设置的禁止收录的网页,那么这些网页仍然可能会出现在百度的搜索结果中,但您的网页上的内容不会被抓取、建入索引和显示,百度搜索结果中展示的仅是其他网站对您相关网页的描述。

    在SEO中作用
    在进行网站优化的时候,经常会使用robots文件把一些内容不想让蜘蛛抓取,以前写过一篇网站优化robots.txt文件的运用,今天写这篇文章在补充一点点知识!什么是robots.txt文件?
    搜索引擎通过一种爬虫spider程序(又称搜索蜘蛛、robot、搜索机器人等),自动搜集互联网上的网页并获取相关信息。
    鉴于网络安全与隐私的考虑,搜索引擎遵循robots.txt协议。通过根目录中创建的纯文本文件robots.txt,网站可以声明不想被robots访问的部分。每个网站都可以自主控制网站是否愿意被搜索引擎收录,或者指定搜索引擎只收录指定的内容。当一个搜索引擎的爬虫访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果该文件不存在,那么爬虫就沿着链接抓取,如果存在,爬虫就会按照该文件中的内容来确定访问的范围。
    robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。robots.txt文件的格式
    User-agent: 定义搜索引擎的类型
    Disallow: 定义禁止搜索引擎收录的地址
    Allow: 定义允许搜索引擎收录的地址

    我们常用的搜索引擎类型有:(User-agent区分大小写)
    google蜘蛛:Googlebot
    百度蜘蛛:Baiduspider
    360蜘蛛:360Spider
    sogou蜘蛛:Sogou Web Spider
    yahoo蜘蛛:Yahoo!slurp
    alexa蜘蛛:ia_archiver
    bing蜘蛛:MSNbot
    altavista蜘蛛:scooter
    lycos蜘蛛:lycos_spider_(t-rex)
    alltheweb蜘蛛:fast-webcrawler
    inktomi蜘蛛:slurp
    Soso蜘蛛:Sosospider
    Google Adsense蜘蛛:Mediapartners-Google

    本版积分规则

    QQ|小黑屋|手机版|站内地图|站内导航|站长短信|仙游论坛——年轻态生活社区! ( 闽ICP备11012108号  亲,直接Q我! 淘宝买卖推广群

    GMT, 2019-9-22 10:22 PM , Processed in 0.234152 second(s), 23 queries , Gzip On.

    Powered by Discuz! X3.2 Licensed

    © 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表