这是一个创建于 183 天前的主题，其中的信息可能已经有所发展或是发生改变。
佬们，网站一直被爬，怎么能识别出是爬虫呢？？？并且现在根本防止不了无头浏览器，想实现是无头唤起的页面就提示页面不安全
15 条回复 • 2024-05-10 14:49:48 +08:00
 |
1
Features 183 天前
抖音,小红书,拼多多这三个国内最强防爬团队,都防不住爬虫
只能增加一点防爬成本,比如进入页面加个谷歌验证码什么的 但是体验就差了不是... 识别了无头浏览器,那就用有头的爬 不行就直接抓你的 api,总有办法的 |
 |
2
zhtyytg 183 天前
老话说得好：只有千日做贼，哪有千日防贼
|
 |
3
ajaxgoldfish 183 天前 via Android
逆向圈有一个梗，拿着一万的工资的程序员对抗三万工资的逆向 er
|
 |
4
czfy 183 天前
上 cloudflare
|
 |
5
chanChristin 183 天前
无头浏览器？那不就是爬虫吗，直接 b 了拉倒。
|
 |
6
mumbler 183 天前  1
数据真的很宝贵的话，强制要求登录，然后根据日志封账号，注册账号需要邀请，邀请需要 1 个金币
|
 |
7
duan602728596 183 天前
抖音是加验证码，而且用户主页是必出验证码。
小红书是验证码和对 url 加密，加密算法会对浏览器环境进行判断，node 和无头浏览器算出来的加密结果是错误的。 对于爬虫的请求，一般都是验证 UA 、Host 、Referer ，对 url 加密。 无头浏览器环境会有 navigator.webdriver: true 。 以前有个 app ，直接对 POST 请求的 body 加密后用 gzip 来压缩和解压缩，这也是一个思路。 |
|
8
duan602728596 183 天前
@duan602728596 更正，是 zlib
|
 |
9
krapnik 183 天前
|
 |
10
main1234 OP @duan602728596 解压那个是啥意思？？？收到压缩的响应后，只有桌面或者 app 上才有 zlib 程序么
|
 |
11
NoOneNoBody 183 天前
以我以前玩爬虫的经验，难对付的是验证码、蜜罐(伪 url)、指纹类动态 cookies
不过时代变了，已经很久没完爬虫了 |
 |
12
wanwusangzhi 183 天前 via Android
接入瑞数能防部分
|
 |
13
dilu 182 天前
加密只能提高逆向成本，我有个招
首先接口需要登录，记录用户请求次数，人工分析出来哪些账号是爬虫，其实这点很容易分辨。 然后把高度疑似爬虫用户加到一个名单中，命中这个名单的请求，随机的在正确的数据中插入一些脏数据。 同时为了防止真正用户受到影响，也可以在前端加个提示就说网络错误让用户刷新一下，下次的请求不要写脏数据就行。 这样一段时间对方肯定不爬了。 |
|
14
main1234 OP @NoOneNoBody 有相关的文章、书、资料能推荐下么
|
|
15
NoOneNoBody 182 天前
@main1234 #14
就算能找到，都老旧了，你作为守方，去找指纹相关的资料好了 其实思路很简单，前端动态生成一个随机值记入 cookies ，但这个值后端可逆，这个值关联性越强(关联其他控件或者前后页)越难解，然后对这个值如何判断和对应措施是什么，那就是网站的事了 如何生成那是个技巧，简单的话，爬虫也可以模拟生成 至于蜜罐，就是机器会捕捉到并访问，但人不会点击的东西 可以利用一下自制字体，零宽字符……这些不影响显示，但非常特殊的东西 全防做不到的，中心思想还是迫使对方降频，不要影响服务器，真正要全防，那一定达到腾讯那级别，好友认证，哈哈 |
Select Language