V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
xzpjerry731
V2EX  ›  问与答

话说你们有注意过 youtube 的 robots.txt 吗?

  •  
  •   xzpjerry731 · 2016-05-24 14:06:31 +08:00 · 2131 次点击
    这是一个创建于 3108 天前的主题,其中的信息可能已经有所发展或是发生改变。

    开头那几个是什么梗。。 get 不到:

    /# robots.txt file for YouTube

    /# Created in the distant future (the year 2000) after

    /# the robotic uprising of the mid 90's which wiped out all humans.

    User-agent: Mediapartners-Google* Disallow:

    User-agent: * Disallow: /comment Disallow: /get_video Disallow: /get_video_info Disallow: /login Disallow: /results Disallow: /signup Disallow: /t/terms Disallow: /verify_age Disallow: /watch_ajax Disallow: /watch_popup Disallow: /watch_queue_ajax

    2 条回复    2016-05-24 14:51:55 +08:00
    xzpjerry731
        2
    xzpjerry731  
    OP
       2016-05-24 14:51:55 +08:00
    @DT27 !!英却斯汀!!
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3974 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 05:10 · PVG 13:10 · LAX 21:10 · JFK 00:10
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.