网站地图 专辑地图 DJ舞曲 网址导航 时间查询 词典查询 问答查询 邮编查询 万年历查询 机械 苗木 升学
  • 人人DJ
  • 人人DJ
  • 炫音社
  • 西西音乐
  • 成都漫音
  • 成都音画时尚
  • English | 简体中文 | 繁體中文

    Mail.RU_Bot

    Mail.RU_Bot是Mail.Ru(俄罗斯最大的互联网门户之一)搜索引擎的网络爬虫。这个网络爬虫被用于抓取和索引网页内容,以支持Mail.Ru搜索引擎的运行。Mail.Ru_Bot的主要作用是帮助Mail.Ru搜索引擎发现和收录新的网页内容,并在用户进行搜索时提供相关的搜索结果。

    不过对于国内网站来说不会带来什么流量,可以选择robots.txt协议禁止。

    User-agent: Mail.RU_Bot

    Disallow: /

    如果还是禁止不了,可以选择nginx规则禁止访问,如下:

    if ($http_user_agent ~* "Mail.RU_Bot") {

     return 403;

    }


    补充纠错
    上一蜘蛛: Coccocbot-web
    下一蜘蛛: DigitalPebble