技术贴，抓取页面乱码的问题

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 4554 天前的主题，其中的信息可能已经有所发展或是发生改变。

这是一个困扰我许久的问题了。检测我抓来的一些网站的页面，发现其中有乱码的情况（试过java、ruby代码实现，使用curl工具显示的也是乱码），但打开原页面看，检测的字符编码是ok的（实际上换了多个编码都不行），而浏览器显示是正常的。对于乱码页面的站点来说，并不是所有页面都是乱码的，所以感觉应该不是网站故意返回乱码数据。可是，这是怎么回事呢？现在可供验证的页面有： http://www.designaeon.com/wordpress-ajax-pagination/ ， http://www.designaeon.com/wp-max-social-widget/ 。之前有发现csdn有乱码页面，不过过了几天后再抓发现又ok了。求助阿。。。

乱码

页面

编码

2 条回复 • 1970-01-01 08:00:00 +08:00

clowwindy

2012-06-04 00:28:18 +08:00

curl http://www.designaeon.com/wordpress-ajax-pagination/ | gzip -cd

kafka0102

2012-06-04 02:52:34 +08:00

@clowwindy 膜拜，跪谢，解决问题了。