一个表里有 100 条记录,5 个线程同时去随机读,如何保证这 100 条记录比较平均地被这 5 个线程读取,而且互相不重复?(前提,不增加 redis 等额外基础设施或工具)
1
E2gCaBAT5I87sw1M 2020 年 10 月 9 日
我也想知道
|
2
E2gCaBAT5I87sw1M 2020 年 10 月 9 日
PG 好像有读取行锁
|
3
lxk11153 2020 年 10 月 9 日
row number % 5 ???
|
4
dddd1919 2020 年 10 月 9 日
用表读锁 /行读锁
|
5
firethehole 2020 年 10 月 9 日
表里的数据在读的时候,会增加吗,还是已经固定了
|
6
wakzz 2020 年 10 月 9 日
要看你的耗时逻辑是读取本身,还是读取后数据的处理逻辑。常见的处理方法是生产消费模式,即由一个生产者从表中获取记录 ID (偏移量)推送到队列中,然后由几个消费者线程竞争消费队列中的推送记录,然后通过记录 ID (偏移量)读取记录后再逻辑处理。
|
7
egglin 2020 年 10 月 9 日
saturn 分片
|
8
Aliencn 2020 年 10 月 9 日
再开一个线程去调度
|
9
InkAndBanner 2020 年 10 月 9 日
@wakzz 你说的这个方案是是针对耗时发生在处理上 的解决方案是嘛?
|
10
kop1989 2020 年 10 月 9 日
如果从程序层面解决的话,可以把 5 线程,分别取 5 随机行转换为单线程(或 5 线程的队列)取随机 25 行,然后分发。
但这有个前提,即你 5 个线程的读取时机要严格同步。(不过如果不同步,又要取没有交集的数据,好像有点奇怪) |
11
boyhailong 2020 年 10 月 9 日
逻辑层去分配,划分下任务比如第一个线程 1-20,以此类推,当然逻辑层也要做去重。
|
12
wysnylc 2020 年 10 月 9 日
别读同个分区的数据,分区规则自己定义
|
13
jptx 2020 年 10 月 9 日
一个很传统而且简易的方式是按 id 取模,假如表里有 id 之类的纯数字,那么第一个线程扫数据库的时候条件加上 where id % 5 = 0,第二个线程是 where id % 5 = 1,以此类推。但这种方法局限性很大,比如查询效率低,每个线程需要知道自己的编号,无法动态快速扩容,分布不一定均匀等。但如果想简单的话,这种方式的确很有效
|
14
Xusually 2020 年 10 月 9 日
select ... for update
试试看? |
15
xsm1890 2020 年 10 月 9 日
随机生成 100 个 id,分成四组?
|
16
wakzz 2020 年 10 月 9 日
@InkAndBanner 对,是针对耗时发生在业务处理上的解决方案
|
17
pming1 OP @firethehole 会增加。
|
19
lower 2020 年 10 月 9 日
读完 设置 一个 已读的状态,线程每次只从过滤 状态后的数据取?
|
21
bleoo 2020 年 10 月 10 日
forupdate 锁一下?
|