V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
mawen0726
V2EX  ›  程序员

求教,有状态的分布式系统应该如何设计

  •  
  •   mawen0726 · 7 小时 6 分钟前 · 347 次点击

    应对业务扩张,将服务拆分并支持横向扩展,现在拆了共 a,b,c 三个服务出来,然后这三个服务要设计成可以随时横向扩展。其中有如下调用链路

    • a -> b -> c
    • a -> c

    然后 c 是主要处理业务的服务,会上分布式锁,加上处理时间长,会后台执行并执行完通知上游来做其他业务操作,业务操作之后才能解锁。

    因为一个业务只能在一个 c 中执行,所以解锁要找到对应的 c 。比如 a 执行业务分配到节点 1 的 c,后续交互都要找节点 1 的 cb是批量执行业务,这一批都要到同一个c中执行完。

    目前设计方案是将 c的 IP 和业务 id 写到 redis ,然后通过 redis 确定业务在哪个 c 节点上面跑着。然后要在业务处理过程中,查看状态都通过 redis 查对应 ip 再去调用服务。

    比如批量任务中,a 要确定哪个 b 节点承接了这个业务,b 节点确定哪个 c 节点正在处理这批次业务。

    感觉这种设计不是很好,想请教下还有没有更优雅的做法

    可能描述的有点复杂,大概意思是

    怎么记录在多个节点时,知道这个任务在哪个节点上,并且应用之间相对不耦合

    13 条回复    2024-12-13 01:54:39 +08:00
    k9982874
        1
    k9982874  
       6 小时 54 分钟前 via Android
    为什么要把问题搞这么复杂,为什么不用消息队列
    tairan2006
        2
    tairan2006  
       6 小时 52 分钟前 via Android
    这很简单,你改成 pub/sub ,比如 mqtt 。接到任务的节点会自己订阅相关 topic ,其他的节点不会订阅。你发布任务的时候也无需关心到底目的地在哪。
    JasonGrass
        3
    JasonGrass  
       6 小时 50 分钟前
    我的理解:a 执行业务分配到节点 1 的 c ,执行完成之后,C1 就把中间结果保存到数据库或者 Redis ,得到一个 key,
    后面 a 要继续处理这个业务,随便找一个 c 的节点,把 key 给 c ,然后继续处理。

    感觉是业务拆得还不够彻底?理想情况是,把业务拆成一步一步执行的,
    执行完第一步,丢到消息队列,中间结果(如果有比较大的中间结果)保存到 redis 或者数据库,下一个服务从消息队列中拿到任务,然后继续跑,这样才好真正的横向扩展。
    mawen0726
        4
    mawen0726  
    OP
       6 小时 30 分钟前
    @k9982874
    消息队列用了,但是用来处理业务中产出的各种数据实时推送...
    没想好记录任务在哪个节点这个层面怎么用...
    mawen0726
        5
    mawen0726  
    OP
       6 小时 28 分钟前
    @tairan2006 貌似跟 1 楼提的消息队列方式很像,我思考一下怎么设计
    k9982874
        6
    k9982874  
       6 小时 16 分钟前 via Android
    不是,你为什么关心认为在哪个节点
    a 有任务扔进队列,c 去捡了执行,执行完了再扔个消息,a 受到走完后面流程,就这么简单的事
    mawen0726
        7
    mawen0726  
    OP
       6 小时 0 分钟前
    @k9982874
    因为 c 在执行任务的时候,上了锁,锁定了某个资源,因为处理时间长,锁定时间久
    代码在写的时候,不是常规的写法....
    lock.lock
    try{
    dosomething()
    }
    finally{
    lock.unlock
    }


    而是起了个线程来上锁,等 a 确定完业务执行完,再去通知持锁的 c 解锁。因为用的 redisson 的 lock ,所以要找回对应的节点 c 才能解锁...
    mawen0726
        8
    mawen0726  
    OP
       5 小时 57 分钟前
    @JasonGrass
    感觉再拆就不好维护了...
    不过可能是我没拆好,感觉还得思考下
    mawen0726
        9
    mawen0726  
    OP
       5 小时 56 分钟前
    @k9982874
    不过感觉可以按这种方式再想下怎么改,确实可能设计复杂了
    1402851639
        10
    1402851639  
       4 小时 53 分钟前 via Android
    感觉你这个耦合这么重是不是拆的就有问题呢。。
    1402851639
        11
    1402851639  
       4 小时 49 分钟前 via Android
    我觉得你更应该解释一下是什么条件限制了必须在同一个实例上,去考虑能否在请求中将关键信息传递过去,又或者 redis 暂时存一下,而不是 b 服务去循环将请求打到同一个 c 上面?
    yeqizhang
        12
    yeqizhang  
       4 小时 34 分钟前 via Android
    @1402851639 我也觉得,这样拆到底解决了啥问题,我感觉瓶颈都在数据库了,那还要解决分布式的事务问题
    wateryessence
        13
    wateryessence  
       3 小时 39 分钟前
    一致性哈希?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   872 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 21:33 · PVG 05:33 · LAX 13:33 · JFK 16:33
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.