爱吱声

标题: 谈谈大型网站架构的一些关键技术 [打印本页]

作者: 季侯    时间: 2012-1-17 10:11
标题: 谈谈大型网站架构的一些关键技术
想进黑虎帮,没积分啊,发点贴
( D- K9 h* ?$ p2 [% [. U! e  ]/ c) V. D) i! m  s( w; a

# L+ n; L  C% g+ T) u$ `( z. U最近12306很火,无数人站出来为铁道部指点迷津,提出了无数个解决方案。虽然很多人没做过网站也没写过程序,,,,,
, Q# m& |3 A# p. j# U+ K  \& J6 O7 w: p9 h( }& I4 y% i; B
乘罗教主还没空,我也凑个热闹,说说网站架构的一些东东。当然了,纯技术的东东可能没人喜欢,所以我保留随时挖坑不填的权力。0 B5 ]& ~4 c* x6 u( m, s- h
9 @9 U% l6 l2 t  y+ S$ C
1 先说说cache$ @  H9 N$ t9 l& H# {4 V9 x
3 B/ u5 K1 u! o8 }
- V0 o( b' ?+ X' \- {  e  g
作为一个老军医,总有人问我,“xxx,帮我看看,为啥我这系统性能这么差?” 我的第一个反应就是,瓶颈在哪里,cache怎么做的。6 M- x' m2 M$ Y# `4 d& B

6 O1 n( @- z; _/ d常有人说,木桶的容量是最短的那块木板决定的;那么如果把一个网站当作一个木桶,网站开发者这个桶匠绝对是个杯具。因为他拿到的木板太参差不齐了,有的长有上百米,有的才几公分。6 \; z# g, R3 M- F/ r

* T3 Z8 m4 i. N9 L/ K) V" _这块最短的木板往往就是数据库了,以12306为例,常见的使用场景是:  s" e5 Z0 X# ~+ i5 e, L; {& n
& M9 A9 I8 s; @$ t: V# k7 b
用户登录上来,根据出发地和目的地查询车次,然后选择 一个有票的车次买票,下订单,付款。
5 I( g+ |( S7 Y' O, l; E7 }; N% _; \8 o( `! u4 r# B
不管是登录/查询车次/查询是否有票/下订单/付款都涉及数据库操作,是一个典型的读多写少的场景,数据库将会是瓶颈。那么为什么数据库会是瓶颈哪?- m( E) T3 p. [' }

: k/ U" V9 n2 _9 [( _: N& f1 数据库操作相对web层是一个非常耗时的操作,单次操作往往需要几毫秒,并发链接数也只有3000/4000;而nginx之类的静态服务器,每秒处理10万个请求,支持数万个并发链接无压力;所以只要稍微大一点的网站,数据库很容易成为瓶颈;
1 G/ a* \6 l2 o6 }6 O  X
9 ^; k; `' F- m$ l, f  ]2. 数据库链接是一个非常昂贵的资源,一般来说单台mysql服务器能够只能提供3000/4000的并发链接;一旦大量web请求到来,那么很有可能申请不到数据库链接,不得不排队;当队列中的请求累计到一定数量时,新的请求很容易超时,从而失败。
4 k8 t$ n8 ^; J" p' f/ U0 e, f% J9 w! y, [5 A( C& }  i" @8 ]
3. 查询操作太多,基本上每买一张票都会查询很多次,而每次查询都会产生数据库查询操作。虽然可以通过建立合适的索引加快查询,通过读写分离/水平分库等手段降低单个数据库的负荷,但是只要数据库操作数量大到一定程度,那么唯一的办法就是减少数据库操作。1 e7 y- g. D/ O9 ?# j

0 O, ^! l9 S& h1 U& C- m将一些很少变化,但是频繁查询的数据缓存到memcached/redis等缓存服务器中是一种成熟有效的技术。以根据出发地/目的地查询为例,以往的查询需要从数据库的车次站点表中查询,现在可以把{出发地/目的地}-> [车次列表]的映射关系存到redis中,这样每次查询的时候直接从redis中就可以得到。
! d  L) d. j2 W3 ~' ?. U+ r* y
# @' J$ ~6 ~/ a5 V$ Q4 A' Q6 T+ M+ b" f这么做的好处是,从redis中查询比从数据库中查询要快的多,相差不止一个数量级,redis能支持的并发链接数也远远超过mysql;所以能够降低了数据库负荷,也避免了数据库链接资源的申请。! e, o3 _/ t" w% o
+ D/ b0 ?5 C* s
所以采用合理的cache技术,降低数据库负荷是大型网站架构的一个关键技术点。. P1 }) i1 ]4 M9 ~7 P

作者: 谜团    时间: 2012-1-17 10:23
把任务分散我觉得比较好7 t  Z2 M7 o8 f8 c/ V
分成100个桶, Z& }( c& V) b9 J4 s! n7 ^$ a; ]
每个桶里一定票$ U' V# X+ q; b, x# x1 m2 ~& E
用户自行选择去哪个桶
作者: 大山猫    时间: 2012-11-18 16:38
谜团 发表于 2012-1-17 10:23
7 c1 G) e7 l0 L; W- Q! I' M* L/ B# c把任务分散我觉得比较好
* ?! x3 \2 G$ B3 W; t分成100个桶; [9 I  m0 M  Q+ x
每个桶里一定票
+ x! E$ J/ i9 [1 \( X/ [
这肯定不行,会有人编程序同时选这一百个桶




欢迎光临 爱吱声 (http://aswetalk.net/bbs/) Powered by Discuz! X3.2