本文是学习大型分布式网站架构的技术总结。对架构一个高性能、高可用、可伸缩及可扩展的分布式网站进行了概要性描述,并给出一个架构参考。文中一部分为读书笔记,一部分是个人经验总结,对大型分布式网站架构有较好的参考价值。
作者简介烂皮猪,十余年工作经验,曾在Google等外企工作过几年,精通Java、分布式架构,微服务架构以及数据库,最近正在研究大数据以及区块链,希望能够突破到更高的境界
一、大型分布式网站架构技术 1、大型网站的特点
用户多,分布广泛
大流量,高并发
海量数据,服务高可用
安全环境恶劣,易受网络攻击
功能多,变更快,频繁发布
从小到大,渐进发展
以用户为中心
免费服务,付费体验
2、大型网站架构目标
高性能:提供快速的访问体验。
高可用:网站服务一直可以正常访问。
可伸缩:通过硬件增加/减少,提高/降低处理能力。
安全性:提供网站安全访问和数据加密、安全存储等策略。
扩展性:方便地通过新增/移除方式,增加/减少新的功能/模块。
敏捷性:随需应变,快速响应;
3、大型网站架构模式
分层:一般可分为应用层、服务层、数据层、管理层与分析层;
分割:一般按照业务/模块/功能特点进行划分,比如应用层分为首页、用户中心。
分布式:将应用分开部署(比如多台物理机),通过远程调用协同工作。
集群:一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。
缓存:将数据放在距离应用或用户最近的位置,加快访问速度。
异步:将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知模式。
冗余:增加副本,提高可用性、安全性与性能。
安全:对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。
自动化:将重复的、不需要人工参与的事情,通过工具的方式,使用机器完成。
敏捷性:积极接受需求变更,快速响应业务发展需求。
4、高性能架构以用户为中心,提供快速的网页访问体验。主要参数有较短的响应时间、较大的并发处理能力、较高的吞吐量与稳定的性能参数。
可分为前端优化、应用层优化、代码层优化与存储层优化。
前端优化:网站业务逻辑之前的部分;
浏览器优化:减少HTTP请求数,使用浏览器缓存,启用压缩,CSS JS位置,JS异步,减少Cookie传输;CDN加速,反向代理;
应用层优化:处理网站业务的服务器。使用缓存,异步,集群
代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;
存储优化:缓存、固态硬盘、光纤传输、优化读写、磁盘冗余、分布式存储(HDFS)、NoSQL等。
5、高可用架构大型网站应该在任何时候都可以正常访问,正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点,要保证高可用是很困难的,也就是说网站的故障是不可避免的。
如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别考虑,在规划的时候,就考虑可用性。行业内一般用几个9表示可用性指标,比如四个9(99.99),一年内允许的不可用时间是53分钟。
不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题。
应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决Session同步问题)实现高可用。
服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,幂等设计等。
数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])
6、可伸缩架构伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力。
应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS、HTTP[反向代理]、IP、链路层)。
服务层:与应用层类似;
数据层:分库、分表、NoSQL等;常用算法Hash,一致性Hash。
7、可扩展架构可以方便地进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。
模块化,组件化:高内聚,低耦合,提高复用性,扩展性。
稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。
设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。
消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。
分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。
8、安全架构