架构实战营 - 模块 5 - 微博评论的高性能高可用计算架构
作业要求
基于模块 5 第 6 课的微博实战案例,分析“微博评论”这个核心场景的业务特性,然后设计其高性能高可用计算架构,包括但不限于如下内容:
1. 计算性能预估(不需要考虑存储性能);
2. 非热点事件时的高性能计算架构,需要考虑是否要拆分独立的服务;
3. 热点事件时的高可用计算架构。
计算性能估算
背景
发评论
看评论
高性能计算架构设计
发评论
业务特性分析
架构分析
架构设计
发评论的场景,依赖的登录状态保存在分布式缓存中;关联的微博id客户端知晓,并由客户端传入,所以服务端无状态,可以任意缩扩容,可以处理任意“发评论”的请求。这里选择“轮询”或者“随机”算法。
发评论主要涉及以下几个处理步骤:数据写入缓存(依赖缓存系统)、数据批量写入存储(依赖存储系统),其业务处理相较于“发微博”更简单,因此可以按照一个业务服务器可处理的最高 TPS 为 1000 进行估算,完成 100K TPS 的处理,需要 100 台服务器,按照 20% 的预留量,需要 120 台服务器。
看评论
业务特性分析
看评论是一个典型的读场景,由于评论发表后不能修改,因此非常适合用缓存架构,同时由于请求量很大,负载均衡架构也需要。
架构分析
架构设计
1.负载均衡算法选择
由于任何人都可以看评论,评论之间,以及评论与其他业务之间无依赖关系,所以服务端无状态,可以任意缩扩容,可以处理任意“读评论”的请求。基于空间局部性原理,为了增加进程内缓存的命中率,这里选择“一致性Hash”算法,将同一条微博的看评论请求转发到同一台或同一组服务器处理,保证较高缓存命中率的同时,不影响应用的伸缩性。
2. 业务服务器数量估算
假设 CDN 能够承载 90% 的用户流量,那么剩下 10% 的读评论请求进入系统,则请求 QPS 为 200K,由于读微博的业务场景简单,主要是读缓存系统,因此假设单台业务服务器处理能力即 TPS 为 1000,则机器数量为 200 台,按照 20% 的预留量, 最终机器数量为 240 台。
整体架构设计
服务拆分
微博评论的多级负载均衡整体架构

微博的多级缓存整体架构

热点事件高可用计算架构设计
用户行为建模和性能估算
术语含义
热点事件:指某个大 V 或者明星爆料或者官宣,虽然只有一两条微博,但引起大量用户在短时间内访问,给系统造成很大压力。
发评论
造成热点事件的微博本身数量极少,但是大量用户会在短时间内访问,同时会在热点微博下面出现大量评论,给系统造成极大压力。
看评论
用户看热点微博的同时,极其可能大量浏览后面的评论,且看微博和看评论有极强的相关性。由于看微博的流量很难预估,故看评论的量也很难预估。
业务特性分析
发评论
由于服务器无状态,负载均衡算法选择“轮询”或者“随机”算法,故热点事件发评论场景与普通发评论场景并无明显差异。
看评论
由于负载均衡算法采用“一致性Hash”算法,同一条微博的看评论请求可能发往单台或单组服务器处理,导致单台或单组服务器处理压力极大。
架构设计分析
发评论
看评论
计算高可用架构

