V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
zhouhuab
V2EX  ›  程序员

请教 10M 级别设备在线状态的最佳设计

  •  
  •   zhouhuab · 86 天前 · 2705 次点击
    这是一个创建于 86 天前的主题,其中的信息可能已经有所发展或是发生改变。

    需要查询设备是否在线,上次在线时间。

    我初步的想法是单独维护一个在线服务,不依赖 redis ,设备离线才写数据库。

    想请问大家有没有经验介绍。

    19 条回复    2024-09-22 21:36:39 +08:00
    lasuar
        1
    lasuar  
       86 天前
    千万级并发?简单的模型是主动推送状态到服务器,入库前先写队列,然后在对数据库做统计查询 。相信楼下还有更好的想法
    lasuar
        2
    lasuar  
       86 天前
    在写入队列前肯定还要二次对流量调整的,千万并发 mq 估计也来不起。可以设计一个扇入模型,部署多个无状态边缘服务来均衡流量,并同时在边缘处做请求合并,然后再将合并包上报到核心服务入 mq 入库。
    GeekGao
        3
    GeekGao  
       86 天前
    自己实现? 为此要设计 端的离线检测、多级缓存、集群分片和状态一致性的设计。
    如果并发写太大,又不想用 Redis ,Cassandra 集群倒是一个不错的选择
    aw2350
        4
    aw2350  
       86 天前
    对数据特征做分片,例如 ID 尾号三位,不同分片的维护一个布隆过滤器 服务,上下线状态用布隆过滤器来维护
    echoZero
        5
    echoZero  
       86 天前
    如果 1 分钟一次心跳 也是 0.16M 的 QPS ,消息队列接着,状态存储分片
    Ipsum
        6
    Ipsum  
       86 天前
    不然试试大数据的 Kappa 架构?
    gam2046
        7
    gam2046  
       85 天前
    如果还有其他业务信息需要传送,那么可以考虑 MQTT ,下线时间可以通过遗嘱消息实现。单纯只为了一个在线状态,那就没必要用这个了。
    ytmsdy
        8
    ytmsdy  
       85 天前 via iPhone
    influxDB 这一类时序数据库,然后正常写心跳包就可以了。
    aliipay
        9
    aliipay  
       85 天前
    好奇什么业务有这么大的设备量, 我所知道的开水团单车也就是这个量级
    RicardoY
        10
    RicardoY  
       85 天前
    维护个靠谱的 KV 集群的就可以了,Redis ,Tair ,KeyDB 都随便...时序数据库也可以
    这个量级没有多大,不要把解决方案搞复杂了
    RicardoY
        11
    RicardoY  
       85 天前
    #5 已经帮你做了估计了,160k 的 QPS 不是很多,可能需要注意下端上不要同一时刻上报心跳
    RangerWolf
        12
    RangerWolf  
       85 天前
    歪个楼,这个级别的客户端数量,一定要想好怎么降低流量费。。。
    flmn
        13
    flmn  
       85 天前
    看看 MQTT
    inshua
        14
    inshua  
       85 天前   ❤️ 1
    "需要查询设备是否在线,上次在线时间。"
    1. 这些设备是连你还是你只负责查?
    1.1. 如果你只负责查,这个规模是很小的,当然还是要搞清楚设备是否经常掉线,查询量大不大,是 pull 还是 push 等等
    2. 如果你要负责处理 1M 连接,好好研究一下网络服务器,做的好单机能支撑
    zhouhuab
        15
    zhouhuab  
    OP
       84 天前
    @inshua 谢谢,单机 1M ,有没有啥好的建议和文档?
    dyexlzc
        16
    dyexlzc  
       84 天前   ❤️ 1
    在线服务维护
    ————————
    有考虑过你的服务升级\重启、所在机器重启\断线的 case 不。

    简单点就 redis 加 key+ttl ,设备定时 ping 更新续期,设备下线主动删除 key ,ping 丢失\下线通知丢失依赖 redis 的 ttl 过期。
    这样你的服务重启、升级、机器维护,也不影响。

    redis 单进程 qps 就算 10w ,你的 10M 量级 10 * 1kk / 1kk = 10s 也能全部操作完成了。
    如果一定要 1s 内全部操作完,那就起 10 个 redis ,简单点按照某个客户端 id % 10 取余分发到某个 redis ,1 秒就能操作完 10M 的量级,实际上这个方案就是各个大厂 redis 集群基本的原理 。
    zhouhuab
        17
    zhouhuab  
    OP
       83 天前
    @dyexlzc 10 redis 在一台多核服务器(比方说 20 cores ),还是 10 个 2core 服务器?哪个更优?
    dyexlzc
        18
    dyexlzc  
       83 天前
    @zhouhuab 从容灾的角度考虑,推荐 10 个 2 core 服务器,如果机器挂了起码只影响部分用户的在线状态需要重新 set 。没那么多机器的话就只能一台服务器了,也不是不能用 :-p

    性能上考虑的话,两种方案理论上是一样的,如果能压测的话可以压测一下,因为 QPS 还和网络延迟、带宽有关。10 个 2core 服务器的网络条件可能会影响最终压测数据(有可能性能低于 20core * 1 )
    inshua
        19
    inshua  
       59 天前
    @zhouhuab Achieving 5M persistent connections with Project Loom virtual threads | Hacker News : https://news.ycombinator.com/item?id=31214253 支持百万连接不难, 但能否处理过来要视负载视情况而定, 游戏服务器和物联网终端肯定是不同的.
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3345 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 11:41 · PVG 19:41 · LAX 03:41 · JFK 06:41
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.