聊分布式项目,绕不开分布式锁、分布式事务、分布式存储、分布式架构这几座大山。我见过不少团队把一个单体应用拆成多个服务之后,麻烦并没有变少,反而多了起来:定时任务突然跑两遍、订单和库存对不上账、缓存和数据库数据不一致、本机没问题一上集群就翻车。这篇技术总览,想换一种角度来写——不按某个具体框架讲,而是给出一张分布式项目的全景地图,把数据存储、并发一致性、任务调度、集群部署这些维度串起来,适合刚接触分布式开发、或者面试前想快速查漏补缺的读者。
1. 总览的第一张地图:从单体到分布式,多出来的问题是什么
我之前带过一个还算是中小规模的项目,单体架构,一个 war 包扔进 Tomcat 就能跑。后面业务量上来,拆成了用户服务、订单服务、商品服务几个独立模块。拆完没多久,生产环境就出了一个奇怪的问题:定时推送报表的 Job,连续收到两封一模一样的邮件。排查了半天才意识到,服务部署在两台机器上,Spring 的 @Scheduled 是进程内部的调度器,它只保证当前 JVM 内不重复,两个实例同时跑,任务自然就重复了。
这个例子很有代表性。分布式带来的不是“多部署几台机器”这个动作本身,而是“单机时代理所当然的事情,到了多机环境下全都变得不再理所当然”。
单机时代,方法调用就是同一个 JVM 里的栈调用,参数传进去、返回值拿到,几乎没有不确定性。分布式之后,一次调用变成一次跨网络 RPC,超时、重试、乱序、服务临时不可用都成了家常便饭。单机时代,本地变量就是状态,一个 ConcurrentHashMap 就能做内存级共享;分布式之后,状态分散在不同进程里,JVM 锁完全锁不住别的机器上的线程。单机时代,一个数据库事务就能保证多张表更新要么全部成功、要么全部失败;分布式之后,订单服务和库存服务各管各的库,一条事务根本跨不过两个数据源。
更麻烦的是部署和运维。单体应用只需部署一个节点,查日志打开一个文件就行;分布式项目有多个服务、多个实例,日志散落在十几台机器上,调用链拉不出来,定位一个问题得先搞清楚请求到底走了哪个节点。
我把这些变化归纳成一张需求地图,分布式项目的技术栈基本都围绕这四个维度展开:
- 数据和存储:缓存、对象存储、文件存储、分布式ID,解决状态和数据分散后怎么存取的问题。
- 一致性和并发:分布式锁、分布式事务,解决多个节点竞争同一份资源时怎么保证结果正确的问题。
- 任务和调度:定时任务、消息队列、分布式爬虫,解决多实例下任务如何分配和避免重复的问题。
- 交付和运维:注册中心、配置中心、网关、负载均衡,解决服务怎么被找到、配置怎么管理、流量怎么入口的问题。
后面的内容,就沿着这四条线展开,把常见的技术选项和关键设计逻辑讲清楚。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 数据层改造:缓存一致性、分布式存储和分布式ID
数据往往是分布式项目里第一道要补的课。多数项目从单体拆开之后,最先遇到的就是缓存和数据库不一致、文件无法互相访问、主键冲突这老三样。
2.1 缓存与数据库的一致性:先写库还是先删缓存
先看一个争论了很久的问题:更新数据时,应该是“先更新数据库再更新缓存”,还是“先删缓存再更新数据库”?
很多新手习惯用“先更新数据库,再更新缓存”,代码写起来挺直观。但并发场景下会出事:线程 A 更新数据库把库存改成 10,然后更新缓存;更新缓存之前,线程 B 把数据库改成 8,然后也去更新缓存。如果 A 的缓存更新晚于 B,缓存里就残留了 10,而数据库是 8,缓存和库就永久不一致了。当然,可以给缓存加分布式锁来规避,但这属于用复杂度换复杂度,不太划算。
推荐的做法是 Cache Aside 模式(旁路缓存):
- 更新数据库。
- 删除缓存。
- 下次读请求发现缓存 miss,再回源数据库,把最新数据写回缓存。
为什么删缓存而不是更新缓存?因为“更新缓存”本身是一个需要额外保证顺序的操作,而“删除缓存”不需要,读请求在 miss 之后一定会从数据库拿最新值。如果删缓存时缓存刚好被别的请求重建了一个旧值,这种概率性的脏数据可以通过延迟双删来兜底:更新完数据库后先删缓存,隔几百毫秒再删一次。
还有个经常被忽略的点:删缓存这一步如果失败了怎么办。生产环境里我见过 Redis 偶发超时导致删除失败,于是缓存里旧值一直残留。所以严谨一点的团队会通过 binlog 订阅、消息队列或者定时任务做异步重试。对于大部分中小项目,至少在代码里把删除失败的 key 记录下来,跑一个补偿任务,才不会在凌晨被告警吵醒。
2.2 对象存储与文件系统的选择:MinIO、HDFS 的定位差异
第二个高发问题,是文件上传之后“时好时坏”。
单体应用经常把上传的图片直接写到本地磁盘,访问时也直接从本地磁盘读。一旦拆成多实例,上传请求打到 A 实例,文件写在 A 的磁盘上;下一次用户访问,负载均衡把请求分到了 B 实例,B 的磁盘上根本没有这个文件,于是图片 404。这个问题在标题相关的热搜词里出现频率极高,说明踩过的人不少。
解法也很直接:把文件统一放到一个所有服务都能访问的存储服务里,比如 MinIO、阿里云 OSS、腾讯云 COS。MinIO 是开源部署里很常用的一套方案,兼容 S3 API,内部本身就是分布式的,多个节点组成集群,通过纠删码(Erasure Code)保证数据不因为单块磁盘损坏而丢失。它解决的就是这类业务文件的存和取,简单可靠,按桶管理,权限控制也有。
运营商页面在技术选型时,很容易把 MinIO 和 HDFS 放在一起比。其实两者定位完全不同:HDFS 是 Hadoop 生态的分布式文件系统,适合大文件、批量读写,比如跑 MapReduce 或者 Spark 作业时,数据直接落在 HDFS 上;它的吞吐量高,但随机读写和在线小文件场景并不擅长。MinIO 这类对象存储则更适合面向业务的文件上传下载,API 风格接近 HTTP+REST,很多客户端直接集成就能用。简单说,业务文件找对象存储,大数据批处理找 HDFS,两者不是替代关系。
2.3 分布式ID:为什么自增ID在集群里不灵了
自增主键在单体库里很舒服,但一旦拆了库、分了表,或者多个服务各管各的库,自增 ID 一定会冲突。哪怕让每个库设置不同的 auto_increment 偏移量,也解决不了未来扩容重新分片时的麻烦。所以分布式环境下,全局唯一 ID 是一个绕不开的基础设施。
主流思路是三种:
| 方案 | 唯一性 | 趋势递增 | 依赖 | 典型问题 |
|---|---|---|---|---|
| UUID | 强 | 否 | 无 | 无序,索引性能差,不适合做订单号 |
| 雪花算法 | 强 | 是 | 机器ID、时钟 | 时钟回拨会产生重复 |
| 号段模式 | 强 | 是 | 数据库/Redis | 依赖外部存储,存在号段缓存 |
雪花算法(Snowflake)是最常见的方案,生成一个 64 位 Long 型 ID,通常的位分配是:1 位符号位 + 41 位毫秒时间戳 + 10 位机器 ID + 12 位序列号。核心思路是时间戳保证趋势递增,机器 ID 保证多节点不重复,序列号保证同一个毫秒内多生成几条也不冲突。
java复制// Snowflake 核心逻辑示意(只保留关键位运算)
long timestamp = System.currentTimeMillis() - startEpoch;
if (timestamp < lastTimestamp) {
// 时钟回拨:等待或抛出异常
}
long id = (timestamp << 22) | (workerId << 12) | sequence;
真正落地时有一个容易踩的坑:系统时钟如果发生回拨,同一毫秒内生成的 ID 可能重复。我自己处理过一例,服务器时间被 NTP 校准往回拨了几百毫秒,雪花算法生成的 ID 突然出现重复,导致一批消息落库失败。解决方式通常是在生成时记录上一次的时间戳,发现当前时间小于上次时间,就等待时间追平,或者直接报错等时钟恢复。分布式 ID 看似是小问题,但一旦上线后再改,牵连所有业务表,所以选型和细节非常值得花时间琢磨。
3. 一致性才是硬骨头:分布式锁与分布式事务的实现路径
数据只是载体,真正让分布式项目变难的是并发和一致性。这一部分相关的技术关键词最多,也是面试问得最狠的地方。
3.1 分布式锁要解决什么问题,和单机锁差在哪
单机环境下,我们用 synchronized、ReentrantLock 就能保证一段代码在同一时刻只有一个线程执行,因为 JVM 内存是共享的。但多实例部署后,线程跑在不同的 JVM 里,JVM 锁是锁不住其他机器上的线程的。比如商品库存扣减,两个实例同时读到库存是 5,各自减 1 再写回,最终可能变成 4,丢了一次扣减。这就是需要分布式锁的原因,它必须基于某个所有实例都能访问的第三方存储来做互斥。
常用的分布式锁实现有三种载体:
- Redis:
SET key value NX EX seconds,实现简单、性能高,是大多数项目首选。 - Zookeeper:通过临时顺序节点实现,客户端崩溃后节点自动消失,天然规避了锁过期问题,但部署和运维成本更高。
- 数据库:用唯一索引或乐观锁版本号实现,简单但有性能瓶颈,一般只在低并发的内部系统里用。
从“总览”的角度看,Redis 锁覆盖面最广,既是缓存的标配,又能顺手做锁,所以下面重点讲它的两个经典坑。
3.2 Redis 分布式锁的正确姿势:value 不能乱写
很多人第一次写 Redis 分布式锁,参考教程写出类似这样:
java复制// 错误示例
Boolean locked = redisTemplate.opsForValue().setIfAbsent("lock", "1");
if (locked) {
try {
doSomething();
} finally {
redisTemplate.delete("lock");
}
}
这个版本的第一个问题,是没有设置过期时间。拿到锁的线程如果中途卡死、宕机或者网络出问题,finally 里的删除根本不会执行,锁永远不释放,其他线程只能一直等。所以加锁必须设过期时间,Redis 提供的原子命令是 SET key value NX EX seconds。
第二个坑,就是我们常看到的热词里提到“value 为当前日期”这类写法。为什么不能用固定值或者日期作为 value?举例说一下:服务 A 和服务 B 同时跑一个定时任务,A 抢到锁,value 是一个统一的日期字符串,比如 2025-02-19。A 执行任务耗时很长,超过了锁过期时间,锁在 Redis 里自动失效。B 接着抢到了锁,value 还是 2025-02-19。这时候 A 终于执行完了,会去执行 delete,直接把 B 持有的锁给删掉了。B 还在正常干活,但锁已经没了,C 又可以抢到锁,分布式锁形同虚设。
正确做法是 value 必须是当前线程唯一的随机值,比如 UUID,删除锁之前要先比较 value 是否等于自己设置的值,只有等于才删。这个“比较再删除”需要保证原子性,用 Lua 脚本:
lua复制if redis.call("get", KEYS[1]) == ARGV[1] then
return redis.call("del", KEYS[1])
else
return 0
end
再进阶一点,锁的过期时间不好拍脑袋设太短,业务执行稍微一波动就会提前过期。Redisson 这类客户端用“看门狗”机制处理:默认给锁 30 秒过期,但后台有个定时线程每隔一段时间自动续期,只要业务线程还活着,锁就一直续期;如果服务宕机,没有续期,锁也会自动过期,不会死锁。对于手动实现 Redis 锁的项目,如果没有看门狗,至少要把过期时间设置成业务最大耗时的 2 到 3 倍,并且对慢任务做监控。
3.3 信号量:另一个容易被混在一起的并发原语
热词里经常把“分布式锁与信号量”并列出现,实际上两者不是一回事。锁解决的是“只能有一个线程进入临界区”,信号量解决的是“最多允许 N 个线程同时进入”。换个生活化的类比:锁是公司只有一个会议室,谁先进去别人就得等;信号量是公司有 5 个工位,最多允许 5 个人同时办公。
在 Redis 里,信号量可以用 INCR 和 DECR 实现:执行前先 INCR 一个计数 key,如果计数超过最大并发数就回退并拒绝;执行结束后 DECR。更标准的做法是用 Redisson 提供的 RSemaphore 或者 RRateLimiter,后者还能限流。
分布式爬虫场景就经常用到信号量。多个爬虫节点共享同一个消息队列,但如果某个时刻所有节点同时发起请求,很容易把目标网站打挂,或者触发封 IP。用信号量把全局并发请求数限制在一定范围内,每个节点抢到“许可”才发送请求,就比每台机器单独限流更准确。
3.4 分布式事务:2PC、TCC、消息事务与 Seata AT 模式
如果说分布式锁是“并发下的互斥问题”,那分布式事务就是“多节点数据一致性问题”。最经典的场景就是订单与库存:下单后要扣库存,订单一笔在订单库,库存一笔在库存库,本地事务根本管不到另一个库。
行业内主要有几条路线:
- 2PC(两阶段提交):引入协调者,先问所有参与者“能不能准备好”,全部答应后统一提交。优点是强一致,缺点是阻塞、性能差,协调者单点容易成为瓶颈。
- TCC:把业务拆成 Try、Confirm、Cancel 三个动作。Try 阶段预留资源,Confirm 阶段确认执行,Cancel 阶段回滚。灵活但业务改造成本高,因为每个操作都要自己写补偿逻辑。
- 本地消息表 + 消息队列:在业务库里先写一条消息表,再执行业务更新,异步把消息发出去,消费者处理后更新状态。最终一致,短期会有窗口不一致,但基本能收敛到正确状态。
- Seata AT 模式:对业务侵入最小的方案。它在执行业务 SQL 之前生成修改前镜像,之后生成修改后镜像,事务提交时做真正的提交,出现异常就根据 undo log 自动回滚。对开发者来说,感觉就像还是在写本地事务。
| 方案 | 一致性 | 业务侵入 | 性能 | 适合场景 |
|---|---|---|---|---|
| 2PC | 强一致 | 中 | 低 | 内部强一致场景,不常用 |
| TCC | 最终一致/可控 | 高 | 中 | 金融、交易等复杂业务 |
| 消息事务 | 最终一致 | 中 | 高 | 大部分订单流、异步链路 |
| Seata AT | 最终一致 | 低 | 中 | 不想改业务又想快速用的团队 |
从实际操作经验看,并非所有订单流程都需要强一致。下单成功后写订单、库存异步扣减、事后对账修复,这种“最终一致 + 补偿”的设计在电商里非常常见。如果一开始就追求 Seata 或者 2PC,反而可能把简单的业务拖垮。项目里引入分布式事务之前,先问自己:能不能接受几秒甚至几分钟的不一致?如果答案是可以,优先选择消息事务和幂等设计。
4. 定时任务重复执行:一个高频场景的完整拆解
这个场景在标题相关热词里出现得特别具体:RedisTemplate 分布式锁、定时任务重复执行、value 为当前日期。看起来是个小众问题,实际上几乎每个分布式项目都会碰到,值得单独拆开讲。
4.1 现象背后的根因:每个实例都在独立过节
前面提到,@Scheduled 这类进程内调度器,只维护当前 JVM 的任务列表和触发时间点。多实例部署后,每个 JVM 都认为自己“应该”执行这个任务,于是报表生成、数据对账、推送通知都会执行 N 遍。如果任务是读性质,重复跑只是浪费资源;如果任务有写性质,比如生成对账单、扣款、发短信,重复执行就是事故。
为什么要强调“value 为当前日期”这个细节?因为很多人第一个想到的解决办法就是“给任务加 Redis 分布式锁”,然后很自然地把锁的 value 写成一个固定值,或者图省事写当前日期。我前面已经解释过,这种做法会在锁过期后引发误删别人锁的连锁反应。这个热词能上榜,说明“在错误的路上一路狂奔”的团队不在少数。
4.2 分布式锁兜底与调度平台:两种路线怎么选
从落地层面,解决定时任务重复有两种成熟路线。
第一种,保留 @Scheduled,在任务内部用 Redis 分布式锁包一层。为了不让代码太难看,可以写一个简单的工具方法,逻辑如下:
java复制String lockKey = "job:report:lock";
String lockValue = UUID.randomUUID().toString();
Boolean locked = redisTemplate.opsForValue()
.setIfAbsent(lockKey, lockValue, Duration.ofSeconds(30));
if (Boolean.TRUE.equals(locked)) {
try {
doReport();
} finally {
// 使用 Lua 脚本,校验 value 一致后再删除
redisTemplate.execute(unlockScript,
Collections.singletonList(lockKey), lockValue);
}
}
这段代码看起来简单,但已经包含了最重要的两个细节:设置了过期时间、value 是随机值 + Lua 校验删除。它适合任务少、逻辑简单的项目,几行代码就能兜住。
第二种,使用分布式调度平台,比如 XXL-Job、ElasticJob、Quartz 集群。这类平台的思路是“把调度和执行分离”:调度中心负责任务的触发、分片、失败重试;执行器负责真正干活。任务天然不会重复分发,并且支持分片策略,比如有 10 万条数据要处理,可以平均分给 5 个执行器各处理 2 万条。对于任务量大、需要运维可视化控制的团队,调度平台比手写分布锁更省心。
我的经验是:项目还是单体或者刚拆成两三个服务时,Redis 锁足够;一旦服务数量多了,且任务本身有分片需求,直接引入调度平台,省下的开发量远超学习成本。
4.3 即使有锁,业务幂等仍是最终防线
说一句可能有些扫兴的话:分布式锁不是万能的。Redis 锁可能出现极端情况下的失效,消息队列重试也可能导致消费者重复执行同一笔业务。所以在写任何可能重复执行的业务代码时,都应该让业务本身具备幂等性。
幂等的意思是“同一个操作执行一次和执行 N 次,结果一样”。常用的做法是引入业务流水号:比如对账单批次号、订单号。任务开始时先到数据库或 Redis 里登记一笔唯一记录,用唯一索引约束“同一批次只能处理一次”,重复请求来了就返回已经处理。这样即使锁偶发失效、任务真的跑了两遍,最终只会有一笔数据落库,另一笔被幂等拦截。
把这些串起来看,一个靠谱的定时任务至少需要三层防护:调度层的分片或锁兜底,不让多个实例同时跑;业务层的幂等设计,挡住重复执行;数据层的唯一约束,作为最后一道物理防线。三层都到位,才敢说稳定。
5. 大数据与分布式爬虫:用伪分布式把整套体系跑起来
聊完偏业务的并发和事务,再看另一类常见的分布式项目场景:大数据和分布式爬虫。这类话题在热词里也占了很大比重,比如 Hadoop 伪分布式搭建、Spark 3.3、分布式文件系统、分布式爬虫。它的特点是概念多但入门门槛不一定高,关键是要有一套能跑的实验环境。
5.1 伪分布式:一台机器模拟一个集群,值得先走一遍
Hadoop 伪分布式模式,严格说是“在一台机器上同时跑 NameNode、DataNode、ResourceManager、NodeManager 等进程”,让这套进程模拟出一个完整集群的运行逻辑。虽然每个角色进程都挤在同一台机器上,但配置方式、启动顺序、日志排查方法和真实集群完全一致。
我看到很多人“hadoop 伪分布式搭建”最终配到吐血,多数原因不是配置复杂,而是没有理解流程,一股脑照着网上的教程抄,一旦出错不知道去哪查。走一遍标准的安装流程,其实很有用:
- 配置 JDK 环境变量,Hadoop 3.x 通常要求 JDK 8 或 11。
- 配置 SSH 免密登录:
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa,把公钥追加到authorized_keys,再执行ssh localhost验证。 - 解压 Hadoop,修改
core-site.xml,核心是把默认文件系统指向 HDFS:
xml复制<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
- 修改
hdfs-site.xml,伪分布式环境副本数必须改成 1,否则只有一个 DataNode,无法复制出默认的 3 份副本,会一直报错:
xml复制<property>
<name>dfs.replication</name>
<value>1</value>
</property>
- 格式化 NameNode:
hdfs namenode -format,这一步只在首次安装时执行一次,后面不要反复格式化,否则 NameNode 的元数据和 DataNode 的块信息对不上。 - 执行
start-dfs.sh,再用jps确认进程都起来了。
避坑的关键点是:如果启动失败,不要死盯终端输出,直接看 $HADOOP_HOME/logs 目录下的日志文件。大多数伪分布式搭建失败,都是端口被占用、免密 SSH 没配置成功、格式化后又被重复格式化造成的,日志里都会写得很清楚。
5.2 Hadoop 3.3 + Spark 3.3 版本搭配与常见坑
CentOS 7 + Hadoop 3.3 + Spark 3.3 是一套比较典型的实验组合。表面看都是 3.3,实际上安装过程中最容易被忽略的是 JDK 版本匹配。Hadoop 3.3 官方对 JDK 8 和 JDK 11 都有支持,Spark 3.3 也支持 JDK 8/11,但如果机器上装了 JDK 17,启动时就会出现类似 UnsupportedClassVersionError 的错误,因为 Spark 编译和运行用的字节码版本对不上。
另一个常见问题是端口冲突。Hadoop 的 NameNode Web UI 默认在 9870,Spark 的 Web UI 默认在 4040,如果机器上还有其他服务占用,进程能启动但页面访问不了,很误导人。遇到这种问题先 netstat -tlnp 查端口,别急着重启集群。
5.3 分布式爬虫:Redis 队列如何把单机爬虫变成多节点采集
分布式爬虫的思路比较有意思:单机爬虫的 URL 队列在进程内存里,多开几个爬虫进程也没用,因为它们各自维护各自的队列,同一个 URL 可能被重复抓取。要做分布式,本质是把“待抓取 URL 队列”和“已抓取 URL 指纹”放到所有爬虫节点都能访问的公共组件里,这个公共组件通常是 Redis。
流程大致是:一个种子 URL 被放入 Redis 的 List,多个爬虫节点通过 LPOP 或 BLPOP 从队列取任务;抓取完成后,解析出新链接,再用 Redis 的 Set 做去重,已抓过的 URL 不会被二次入队。Scrapy-Redis 就是这套思路的成熟实现,它把 Scrapy 默认的调度器替换成基于 Redis 的调度器,多个 Scrapy 实例连接同一个 Redis,天然形成分布式爬虫。加上前面提到的信号量限流、代理池管理,整套系统的并发控制就比单机版可靠得多。
伪分布式环境和分布式爬虫的实验,是我个人很推荐的两条入门路径。因为它们把“分布式”从抽象概念变成了能亲手操作的进程和队列,比只看书理解得深。
6. 开发调试与部署:从笔记本到服务器怎么铺开
前面讲的都是方案和原理,实际操作时很多人会卡在一个很基本的问题上:我只有一台电脑,怎么模拟分布式环境?下面聊几个实用的开发调试技巧和部署组件。
6.1 IDEA 多开进程:一台电脑模拟多个实例
开发阶段没必要真的搞三台服务器。IDEA 里可以直接复制一个 Spring Boot 的 Run Configuration,然后在 VM options 里指定不同的端口,比如:
- 第一个实例:
-Dserver.port=8081 - 第二个实例:
-Dserver.port=8082
两个进程同时运行,它们通过同一个注册中心(比如本地起的 Nacos)注册为同一个服务的不同实例。这时候再用本地 Nginx 配置一个 upstream,把请求轮流转发到 8081 和 8082,就是一个非常接近生产的负载均衡环境。
如果不想用 IDEA 的多实例启动,也可以编译打包后用命令行分别指定端口:
bash复制java -jar demo.jar --server.port=8081
java -jar demo.jar --server.port=8082
我比较推荐用第二种方式,更贴近服务器的启动逻辑,也方便后续写脚本批量启停。这一个技巧就能复现很多分布式问题,比如定时任务重复执行、分布式锁争抢、本地文件访问不到。
6.2 服务器部署的基础设施:注册中心、配置中心、网关
当服务数量多了,真正部署到服务器上时,需要一组基础设施来支撑,它们不是业务代码,但少了它们分布式根本跑不起来:
| 组件 | 职责 | 常见选型 |
|---|---|---|
| 注册中心 | 服务启动时注册,调用方通过服务名发现可用实例 | Nacos、Eureka、Consul |
| 配置中心 | 统一管理所有服务的配置,支持动态刷新 | Nacos、Apollo |
| 网关 | 统一入口,负责路由、鉴权、限流 | Spring Cloud Gateway、Kong |
| 负载均衡 | 把请求分散到多个实例 | Nginx、网关内置的 LoadBalancer |
| 链路追踪 | 记录一次跨服务请求的完整调用链 | SkyWalking、Zipkin |
| 日志系统 | 把多台节点的日志集中起来 | ELK、Loki |
注册中心解决的是“怎么找到服务”,配置中心解决的是“配置怎么改才不用重启几十个实例”,网关解决的是“外部请求从哪进、怎么鉴权”。对中小团队来说,Nacos 一个组件就可以同时承担注册中心和配置中心的角色,能少维护一套系统。
部署时还有一个很实际的提醒:发布策略上别一次性把所有实例全停掉再启,尽量采用滚动发布,先更新一个实例,观察健康检查通过后再更新下一个。很多分布式问题恰恰出现在发布期间,比如旧实例还挂着、新实例刚起来,两边版本不一致导致调用异常。有灰度发布能力的团队优先灰度,没有的话至少把多实例滚动发布当成默认操作。
6.3 分布式不止在互联网:工业、通信、嵌入式场景的另一个维度
聊到这里,还想说一个平时容易被忽略的视角。分布式这个概念不只是后端开发在用,工业控制领域里的分布式 IO 系统、分布式交换机系统架构,通信领域的分布式 MIMO 和阵列信号处理,以及分布式驱动小车、机器人控制,其实都是“多节点协同”的工程问题。它们的技术栈和互联网后端完全不同,但核心矛盾是相通的:节点之间怎么通信、数据怎么同步、时间怎么对齐、某个节点掉线后系统怎么降级。
如果你本身是学嵌入式或者自动化出身,看到这些热词可能会觉得和自己学的完全不同。实际上明白了分布式问题的通用结构,再看这些场景会很容易理解它们的设计动机,无非是节点角色划分、通信协议、容错机制三个维度。这也是“总览”最有价值的地方:它帮我们把一个很大的概念拆解成可迁移的问题模型,而不是绑定在某套具体框架上。
7. 总览之后的选型建议:从最简单的分布式方案开始
讲了这么多技术点,最后想给几条务实的建议,也是我自己在几个项目里踩过坑之后沉淀下来的选择逻辑。
7.1 选型优先级:先解决有没有,再追求好不好
分布式技术栈本身是有层级关系的,不一定每层都要上重型组件。我见过最可惜的情况,是一个每天请求量刚过万的项目,上了全套微服务、分布式事务、配置中心、网关、监控,结果团队连排查问题的能力都还没跟上,一个小故障要拉五六个人会诊。技术选型应该跟着业务复杂度走:
- 单体应用阶段,数据库事务就是最强的保证,不要为了“以后可能需要”而提前引入分布式锁。
- 出现第二个实例、且确实遇到并发竞争时,再加 Redis 分布式锁。
- 订单相关业务出现跨库更新时,先想消息队列 + 幂等,最后才上 Seata。
- 定时任务需要分片、需要管理多台执行器时,再上调度平台。
- 服务数量超过五六个、配置开始到处复制粘贴时,配置中心和注册中心才真正产生价值。
这是很多团队验证过的路线:小步快走,哪个瓶颈出现了,再针对性引入对应组件。分布式是解决问题的手段,不是项目必须摆出来的门面。
7.2 一套常见的中小型分布式项目组合
给一个可以直接“抄作业”的组合思路:Spring Boot + Redis + Nacos + Spring Cloud Gateway,再加 XXL-Job 做定时任务,文件服务用 MinIO,数据库按核心业务分库。这套组合的优点是每个组件都有大量社区资料,踩坑也基本都有现成答案,学习曲线相对平缓。
实际开发中的很多问题不是“组件不够多”,而是“组件之间的边界不清楚”。比如配置中心和注册中心都用 Nacos,但有人会把业务配置也塞进 Nacos,导致配置权限混乱;有人把网关当成什么业务都往里面塞,导致网关变成臃肿的中间层。组件选型之后,更重要的是约定好职责边界。
7.3 最后提醒的几个小细节
最后分享几个我个人在实际开发中反复验证过的经验:
第一,凡是分布式锁的 value,一律用 UUID 或请求 ID,不要用固定值,更不要用当前日期。这个细节看起来小,但踩过的人才知道后果有多严重。锁的过期时间也绝对不能省,实在拿不准设多长,就去看 Redisson 的看门狗方案。
第二,凡是定时任务,先想“重复执行会不会出事”,再想“怎么让它不重复”。前者是业务幂等,后者是锁或调度平台。两者配合才稳妥,只靠锁经常会在边界情况漏风。
第三,凡是部署多实例之前,先想清楚状态放在哪里:会话要放进 Redis 或 JWT,上传文件要放进对象存储,本地磁盘目录只放临时文件。想清楚状态在哪,分布式里 80% 的“时好时坏”问题都能提前规避。
第四,排错时优先看日志,不要反复重启碰运气。分布式环境的日志本来就分散,如果没接入集中日志,至少要在每台机器上把时间同步好,否则看日志连先后顺序都理不清。
对我来说,分布式项目技术总览最核心的价值,不是记住每个组件怎么用,而是建立起一套“分布式问题怎么归类、怎么拆解”的思考方式。遇到一个现象,先判断它属于数据存储问题、并发一致性问题、任务调度问题还是部署运维问题,然后对症下药。这样再看具体技术文档,就会清晰很多,遇到新工具也能很快上手。
