V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
FirefoxChrome
V2EX  ›  互联网

知乎疑似屏蔽了谷歌爬虫

  •  
  •   FirefoxChrome · 180 天前 · 540 次点击
    这是一个创建于 180 天前的主题,其中的信息可能已经有所发展或是发生改变。
    2024 年 4 月 28 日的谷歌快照显示允许谷歌索引

    https://webcache.googleusercontent.com/search?q=cache:https://www.zhihu.com/robots.txt

    https://www.zhihu.com/robots.txt

    而最新的删掉了这些:

    User-agent: Googlebot
    Disallow: /appview/
    Disallow: /login
    Disallow: /logout
    Disallow: /resetpassword
    Disallow: /terms
    Disallow: /search
    Allow: /search-special
    Disallow: /notifications
    Disallow: /settings
    Disallow: /inbox
    Disallow: /admin_inbox
    Disallow: /*?guide*

    User-agent: Googlebot-Image
    Disallow: /appview/
    Disallow: /login
    Disallow: /logout
    Disallow: /resetpassword
    Disallow: /terms
    Disallow: /search
    Allow: /search-special
    Disallow: /notifications
    Disallow: /settings
    Disallow: /inbox
    Disallow: /admin_inbox
    Disallow: /*?guide*
    1 条回复
    liuhaitaoSB
        1
    liuhaitaoSB  
       180 天前
    额,回想起 前两天的什么中文互联网正在 GG, 这个是不是准备慢慢离开国际互联网
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1813 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 16:35 · PVG 00:35 · LAX 08:35 · JFK 11:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.