爱吱声

标题: 谈谈大型网站架构的一些关键技术 [打印本页]

作者: 季侯    时间: 2012-1-17 10:11
标题: 谈谈大型网站架构的一些关键技术
想进黑虎帮,没积分啊,发点贴) v+ r- O5 T# I# Y) o  e
( F  e: S; ]$ B
5 }! d8 Q& r8 g5 D
最近12306很火,无数人站出来为铁道部指点迷津,提出了无数个解决方案。虽然很多人没做过网站也没写过程序,,,,,7 O) {6 e6 x; H& p7 h6 F
: k$ N+ B! {3 s. M' r# D: y/ }: w+ s
乘罗教主还没空,我也凑个热闹,说说网站架构的一些东东。当然了,纯技术的东东可能没人喜欢,所以我保留随时挖坑不填的权力。
3 E6 c; m! J, A/ f/ s
/ b( b8 u5 A" x+ E' z1 I; x1 先说说cache, F0 t, |: z7 C  F- O2 ?
& q/ r5 N' O. B/ m0 p7 n. t$ T
# S& D" j, ~9 j. {8 K* E! J
作为一个老军医,总有人问我,“xxx,帮我看看,为啥我这系统性能这么差?” 我的第一个反应就是,瓶颈在哪里,cache怎么做的。) I0 p( H' N0 ~" c0 E% d

9 k6 v' G1 p) ^: K1 S7 V& ]常有人说,木桶的容量是最短的那块木板决定的;那么如果把一个网站当作一个木桶,网站开发者这个桶匠绝对是个杯具。因为他拿到的木板太参差不齐了,有的长有上百米,有的才几公分。
. x8 V4 m8 b: D* {1 q, T+ E  M  R+ M3 `- N2 N; c( b
这块最短的木板往往就是数据库了,以12306为例,常见的使用场景是:0 i' u3 ?. {- \2 C0 ~
3 d8 E. C8 Q) R. O* Y
用户登录上来,根据出发地和目的地查询车次,然后选择 一个有票的车次买票,下订单,付款。+ F2 j4 J' y1 Q5 {- G: y& ]0 I

# c4 U& {1 |; Y1 ~2 Y, u( c不管是登录/查询车次/查询是否有票/下订单/付款都涉及数据库操作,是一个典型的读多写少的场景,数据库将会是瓶颈。那么为什么数据库会是瓶颈哪?
; C; O6 l+ Y' w$ s+ B: W
% t! ~7 A% [8 v2 b4 X. s( z/ B1 数据库操作相对web层是一个非常耗时的操作,单次操作往往需要几毫秒,并发链接数也只有3000/4000;而nginx之类的静态服务器,每秒处理10万个请求,支持数万个并发链接无压力;所以只要稍微大一点的网站,数据库很容易成为瓶颈;" [; W5 n) R) X+ q# X+ R" ~7 R7 [

8 X+ `  l+ W+ X% `2. 数据库链接是一个非常昂贵的资源,一般来说单台mysql服务器能够只能提供3000/4000的并发链接;一旦大量web请求到来,那么很有可能申请不到数据库链接,不得不排队;当队列中的请求累计到一定数量时,新的请求很容易超时,从而失败。
$ B* w4 h. @+ D0 Y, H
4 c9 ?+ y4 j6 }+ E3. 查询操作太多,基本上每买一张票都会查询很多次,而每次查询都会产生数据库查询操作。虽然可以通过建立合适的索引加快查询,通过读写分离/水平分库等手段降低单个数据库的负荷,但是只要数据库操作数量大到一定程度,那么唯一的办法就是减少数据库操作。
: L; m' k) J) U* j2 {& y" b
5 f& F) a- L7 n9 z6 s% Q' U0 j将一些很少变化,但是频繁查询的数据缓存到memcached/redis等缓存服务器中是一种成熟有效的技术。以根据出发地/目的地查询为例,以往的查询需要从数据库的车次站点表中查询,现在可以把{出发地/目的地}-> [车次列表]的映射关系存到redis中,这样每次查询的时候直接从redis中就可以得到。0 E( A# B! V# @
+ M0 q7 p6 m" @) Z) A
这么做的好处是,从redis中查询比从数据库中查询要快的多,相差不止一个数量级,redis能支持的并发链接数也远远超过mysql;所以能够降低了数据库负荷,也避免了数据库链接资源的申请。; g" p5 d1 u# K- ]' E. s
, z# _  a+ W3 _6 d/ H
所以采用合理的cache技术,降低数据库负荷是大型网站架构的一个关键技术点。4 o+ H+ K8 l$ c% }& L, c; o+ N' G

作者: 谜团    时间: 2012-1-17 10:23
把任务分散我觉得比较好
7 C4 F- e/ j8 t* S. D# p分成100个桶3 P* z" e% ~9 F" z# C4 R
每个桶里一定票
8 T! c5 |! |1 K* y! D; a3 Z用户自行选择去哪个桶
作者: 大山猫    时间: 2012-11-18 16:38
谜团 发表于 2012-1-17 10:23   b1 i% p& b, s% L* E" k2 c
把任务分散我觉得比较好
, m) I6 w+ f% o7 m分成100个桶+ I7 x6 N4 C$ K* f4 H, k6 v
每个桶里一定票
2 R. G. _; a; _& E+ n
这肯定不行,会有人编程序同时选这一百个桶




欢迎光临 爱吱声 (http://aswetalk.net/bbs/) Powered by Discuz! X3.2