抓取推文的时候如何保证不重复？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 3703 天前的主题，其中的信息可能已经有所发展或是发生改变。

比如我现在不定时的从推特上抓取自己时间线上推文。操作是通过使用Twitter的API完成的。
如何保证本次抓取的内容正好是从上次抓取完毕的地方开始的呢？
我有个比较笨的方法，就是分批（抽样）抓取数据，每次抓完就判断一下是否重复了。如果重复了就停止抓取。不过我总觉得这样很没效率，不知道大家有没有什么好的建议？

抓取

重复

抽样

2 条回复 • 2014-10-03 01:05:29 +08:00

wisatbff

2014-10-03 00:31:55 +08:00

是这个么 https://dev.twitter.com/rest/public/timelines

mthli

2014-10-03 01:05:29 +08:00 via Android

@wisatbff 嗯。应该就是这个，since_id就是解决这个问题的。我去研究下。自己光想着怎么从timeline抓数据，不读文档，智商很着急呀。