1.介紹

現(xiàn)在很多的網(wǎng)站上都會(huì)用到大量的圖片，而圖片是網(wǎng)頁(yè)傳輸中占主要的數(shù)據(jù)量,也是影響網(wǎng)站性能的主要因素。因此很多網(wǎng)站都會(huì)將圖片存儲(chǔ)從網(wǎng)站中分離出來(lái)，另外架構(gòu)一個(gè)或多個(gè)服務(wù)器來(lái)存儲(chǔ)圖片，將圖片放到一個(gè)虛擬目錄中，而網(wǎng)頁(yè)上的圖片都用一個(gè)URL地址來(lái)指向這些服務(wù)器上的圖片的地址，這樣的話網(wǎng)站的性能就明顯提高了，圖片服務(wù)器(ImageServer)的概念也就產(chǎn)生了。

1.1 圖片服務(wù)器的優(yōu)勢(shì)

1， 分擔(dān)Web服務(wù)器的I/O負(fù)載-將耗費(fèi)資源的圖片服務(wù)分離出來(lái)，提高服務(wù)器的性能和穩(wěn)定性。

2， 能夠?qū)ｉT對(duì)圖片服務(wù)器進(jìn)行優(yōu)化-為圖片服務(wù)設(shè)置有針對(duì)性的緩存方案，減少帶寬成本，提高訪問(wèn)速度。

3， 提高網(wǎng)站的可擴(kuò)展性-通過(guò)增加圖片服務(wù)器，提高圖片吞吐能力。

1.2 圖片服務(wù)器的注意事項(xiàng)

1， 選擇適合圖片存儲(chǔ)的物理介質(zhì)和文件系統(tǒng)

2， 使用物理上獨(dú)立的服務(wù)器

3， 如果擁有多臺(tái)圖片服務(wù)器，要考慮服務(wù)器之間的圖片同步問(wèn)題

4， 使用獨(dú)立域名

5， 制定合理的緩存策略

6， 使用圖片處理模塊對(duì)用戶上傳的圖片進(jìn)行再加工

1.3 圖片服務(wù)器的架構(gòu)

圖片是網(wǎng)站中必不可少的一個(gè)組成部分，隨著網(wǎng)站的不斷發(fā)展，對(duì)圖片的處理也將隨著訪問(wèn)的增長(zhǎng)，圖片的增加提出不斷改進(jìn)的需求， 網(wǎng)站初期，所有的一切都從簡(jiǎn)圖片所存在的位置通常會(huì)在站點(diǎn)下的Images文件夾。

隨著訪問(wèn)的增加，IIS壓力的增大，開(kāi)始做拆分，將圖片文件夾作為單獨(dú)站點(diǎn)提取出來(lái)如http://images.***.com/(可能根據(jù)需要會(huì)拆分成多個(gè)圖片服務(wù)器，與具體業(yè)務(wù)環(huán)境相關(guān))，拆分之后很好的將單個(gè)IIS應(yīng)用池的壓力分擔(dān)到2個(gè)乃至多個(gè)上，大大提高訪問(wèn)瓶頸。隨著訪問(wèn)的進(jìn)一步增加，服務(wù)器壓力已經(jīng)無(wú)法支撐，這時(shí)我們需要將圖片站點(diǎn)作為獨(dú)立服務(wù)器存在。在訪問(wèn)圖片的過(guò)程中，我們可能會(huì)面臨一個(gè)圖片有多個(gè)圖片尺寸的需求，前期我們通常會(huì)在保存頁(yè)面的過(guò)程中保存我們需要的各個(gè)尺寸圖片，但隨著所需尺寸的不同，保存圖片時(shí)需要的尺寸越來(lái)越多，這時(shí)我們?nèi)绾螒?yīng)對(duì)？

IIS服務(wù)器的并發(fā)訪問(wèn)意味著隨著用戶的進(jìn)一步增加，我們單臺(tái)圖片服務(wù)器已經(jīng)不足以應(yīng)對(duì)了，此時(shí)我們?nèi)绾芜M(jìn)一步擴(kuò)展？

如上圖所示，我們此時(shí)可針對(duì)這兩個(gè)問(wèn)題做出統(tǒng)一解決方案，在前端添加squid緩存服務(wù)器，添加一臺(tái)或者多臺(tái)動(dòng)態(tài)切圖服務(wù)器。Squid或者Nginx代理緩存服務(wù)器能夠極大的提升圖片系統(tǒng)的并發(fā)訪問(wèn)，使系統(tǒng)突破現(xiàn)有限制。動(dòng)態(tài)切圖服務(wù)器主要的作用是針對(duì)不同尺寸的圖片訪問(wèn)調(diào)取原圖臨時(shí)生成符合需求的圖片并返回。原圖的存儲(chǔ)區(qū)可以與圖片服務(wù)放在一起，也可以講圖片放于單獨(dú)的服務(wù)器上。

在此種結(jié)構(gòu)中，并發(fā)的最大訪問(wèn)限制將是squid或者其他代理服務(wù)器的系統(tǒng)瓶頸，當(dāng)切圖服務(wù)壓力增大時(shí)，只需添加相應(yīng)切圖服務(wù)器即可，圖片存儲(chǔ)區(qū)的增長(zhǎng)也可通過(guò)添加硬盤或者服務(wù)器進(jìn)行解決。

如果您的站點(diǎn)訪問(wèn)量還在進(jìn)一步增長(zhǎng)，squid的訪問(wèn)瓶頸即將被突破，這時(shí)我們又該如何應(yīng)對(duì)呢？

如上圖所示，采用多臺(tái)Squid或Nginx服務(wù)器，在前端添加F5或LVS負(fù)載均衡(同時(shí)還可開(kāi)啟緩存功能)。此時(shí)將極大提升訪問(wèn)的并發(fā)量，可以根據(jù)情況隨時(shí)調(diào)配服務(wù)器。當(dāng)然此時(shí)也存在一定的瑕疵，那就是可能在多臺(tái)Squid上存在同一張圖片，因?yàn)樵L問(wèn)圖片時(shí)可能第一次分到squid1，在F5過(guò)期后第二次訪問(wèn)到squid2或者別的，當(dāng)然相對(duì)并發(fā)問(wèn)題的解決，此種少量的冗余完全在我們的允許范圍之內(nèi)。在做了這許多的工作后，如果條件允許對(duì)圖片服務(wù)器做下CDN，那將會(huì)對(duì)您站點(diǎn)的圖片訪問(wèn)質(zhì)量有更大的提升。

1.4 圖片存儲(chǔ)架構(gòu)

1.4.1 部署獨(dú)立圖片服務(wù)器的必要性

我們知道，無(wú)論對(duì)于Apache還是IIS，圖片始終是最消耗系統(tǒng)資源的，如果將圖片服務(wù)和應(yīng)用服務(wù)放在同一個(gè)服務(wù)器的話，應(yīng)用服務(wù)器很容易會(huì)因?yàn)閳D片的高I/O負(fù)載而崩潰，因此對(duì)于有些大型網(wǎng)站項(xiàng)目，我們有必要將圖片服務(wù)器和應(yīng)用服務(wù)器分離。部署獨(dú)立的圖片服務(wù)器（甚至是服務(wù)器集群）是大型網(wǎng)站圖片存儲(chǔ)解決方案中最基礎(chǔ)的，因?yàn)橛辛霜?dú)立的圖片服務(wù)器后，我們才能對(duì)圖片服務(wù)器做更有針對(duì)性的性能優(yōu)化，比如從硬件角度說(shuō)，圖片服務(wù)器可以配置高端的硬盤，7200轉(zhuǎn)的換成15000轉(zhuǎn)的，而CPU卻只要一般就可以了；從軟件角度說(shuō)，可以為圖片服務(wù)器配置特殊的文件系統(tǒng)來(lái)滿足對(duì)圖片的I/O請(qǐng)求，如淘寶的TFS，就很好地解決了大規(guī)模小圖片文件帶來(lái)的I/O噩夢(mèng)，同時(shí)，我們也可以采用nginx、squid來(lái)代理圖片請(qǐng)求等等。

1.4.2 采用獨(dú)立域名

注意，這里是指獨(dú)立域名，不是子域哦，比如yahoo.com圖片服務(wù)器用了yimg.com的域名，而不是用二級(jí)域名img.yahoo.com，這是為什么呢？個(gè)人覺(jué)得原因主要有以下幾點(diǎn)：

1、同一域名下瀏覽器的并發(fā)連接數(shù)有限制，一般在2 - 6之間，下圖列舉了各個(gè)瀏覽器的并發(fā)連接數(shù)（下圖供參考）

這樣，我們?nèi)绻o圖片服務(wù)器配置獨(dú)立的域名，那么在一個(gè)頁(yè)面中加載圖片時(shí)，就可以突破瀏覽器連接數(shù)的限制，理論上，增加一個(gè)獨(dú)立域名，并發(fā)連接數(shù)加倍。

2、由于cookie的原因，對(duì)緩存不利

比如有一張圖片http://www.test.com/img/xx.gif，那么當(dāng)我們向它發(fā)起請(qǐng)求的時(shí)候，會(huì)帶上www.test.com域名下的cookie，由于大部分web cache都只緩存不帶cookie的請(qǐng)求，這樣就導(dǎo)致每次的圖片請(qǐng)求都不能命中cache，而仍舊要去原始服務(wù)器獲取圖片，導(dǎo)致圖片緩存意義不大。所以，還是給單獨(dú)搞一個(gè)圖片獨(dú)立域名吧，當(dāng)然，不只是圖片，css和js文件也可以參照這個(gè)思路來(lái)搞。

3、方便CDN同步

1.4.3 圖片服務(wù)器分離后，如何進(jìn)行圖片上傳和圖片同步

當(dāng)然任何事物都具有兩面性，圖片服務(wù)器分離固然提升了圖片訪問(wèn)的效率，大大緩解了服務(wù)器因圖片造成的I/O瓶頸，但是分離以后圖片的上傳和同步就成了一個(gè)大問(wèn)題了。下面就我個(gè)人的想法談?wù)剮追N解決方案。

1、NFS共享方式

如果你不想在每臺(tái)圖片服務(wù)器同步所有圖片，那NFS共享是最簡(jiǎn)單也最實(shí)用的方式。NFS是個(gè)分布式的客戶機(jī)/服務(wù)器文件系統(tǒng)，NFS的實(shí)質(zhì)在于用戶間計(jì)算機(jī)的共享，用戶可以聯(lián)結(jié)到共享計(jì)算機(jī)并象訪問(wèn)本地硬盤一樣訪問(wèn)共享計(jì)算機(jī)上的文件。

具體實(shí)現(xiàn)思路是：web服務(wù)器通過(guò)nfs掛載多臺(tái)圖片服務(wù)器export出來(lái)的目錄，用戶先將圖片上傳到web服務(wù)器，然后將上傳的圖片通過(guò)程序拷貝到這個(gè)mount目錄中去，這樣那幾臺(tái)圖片服務(wù)器就也能訪問(wèn)到剛上傳的圖片了（注意，只是共享了，并沒(méi)有真正拷貝到圖片服務(wù)器）。再給那幾臺(tái)圖片服務(wù)器綁定獨(dú)立域名，于是瀏覽器端就可以用單獨(dú)的域名來(lái)訪問(wèn)圖片了。這種方式基本不會(huì)有因同步造成的延時(shí)，但需要依賴nfs，nfs掛掉會(huì)影響web服務(wù)器。如下圖

至于如何配置nfs，大家在本站搜索一下http://so.jb51.net/

2、利用FTP同步

和上面nfs不一樣的是，用戶上傳完圖片后是利用ftp同步到各個(gè)圖片服務(wù)器的，php、java、asp.net基本上都能操作ftp。這樣的話每個(gè)圖片服務(wù)器就都保存一份圖片的副本，也起到了備份的作用。但是缺點(diǎn)是將圖片ftp到服務(wù)器比較耗時(shí)，如果異步去同步的話又會(huì)有延時(shí)，不過(guò)一般的小圖片文件也還好了。

2.圖片服務(wù)器的URL HASH架構(gòu)剖析

2.1 什么是url hash 架構(gòu)

url hash架構(gòu)對(duì)url進(jìn)行一次hash算法，然后通過(guò)hash結(jié)果找到對(duì)應(yīng)的服務(wù)器。因?yàn)獒槍?duì)單一個(gè)url的hash結(jié)果是一樣的，所以理論上這個(gè)url會(huì)被永久分配到固定的一臺(tái)服務(wù)器上。另外因?yàn)榻?jīng)過(guò)了hash算法，所以分配url就很均勻，同時(shí)訪問(wèn)量也可以達(dá)到均衡。

2.2 為什么要用url hash架構(gòu)

1, 圖片服務(wù)器的特點(diǎn)一是訪問(wèn)量很大，二是容量也很大，通過(guò)簡(jiǎn)單的負(fù)載均衡，可以解決訪問(wèn)量大的問(wèn)題，但是容量的問(wèn)題并沒(méi)有改善。所以會(huì)造成容災(zāi)問(wèn)題。

2, 容災(zāi)問(wèn)題：系統(tǒng)某個(gè)時(shí)間段被訪問(wèn)的數(shù)據(jù)嚴(yán)重超出緩存集群中最小單機(jī)的容納容量就會(huì)造成容災(zāi)，容災(zāi)會(huì)使大量單一鏈接穿透，直接對(duì)后臺(tái)的IO性能影響很大。

3, 雖然可以通過(guò)增加緩存容量的配置來(lái)解決容災(zāi)問(wèn)題，但是內(nèi)存總是有限的，為每一臺(tái)機(jī)器增加超大內(nèi)存成本上也開(kāi)銷很大，另外在squid中也不宜配置很大的磁盤緩存，否則squid中的hash表會(huì)很大，性能很差。

4, 通過(guò)hash架構(gòu)，可以充分利用緩存集群的內(nèi)存，容災(zāi)問(wèn)題就不再取決于緩存集群中最小單機(jī)的容納容量，而是緩存集群中所有機(jī)器的容納容量之和。

2.3 各種url hash架構(gòu)

1）基于dns的hash架構(gòu)。

2）基于nginx的自動(dòng)hash架構(gòu)。

3）基于nginx的手動(dòng)hash架構(gòu)。

2.3.1 基于dns的hash架構(gòu)

dns的hash架構(gòu)圖

dns的hash架構(gòu)說(shuō)明

這個(gè)架構(gòu)適合面向用戶的圖片系統(tǒng)，比如論壇、相冊(cè)、博客中的圖片上傳。這樣它才能夠保證文件名有一致的規(guī)范。

這個(gè)架構(gòu)圖分了36個(gè)域名，圖片文件名是用md5值起的，在md5值中取一位字母就可以表明它是在哪個(gè)域名里，域名就對(duì)應(yīng)了機(jī)器，上傳分發(fā)的時(shí)候也是根據(jù)此字母來(lái)分發(fā)。

dns的hash架構(gòu)的優(yōu)缺點(diǎn)

優(yōu)點(diǎn)：

1）使用了dns分流，成本較低，而且dns性能高，不用維護(hù)。

2）可突破IE默認(rèn)每主機(jī)2個(gè)線程的限制。

缺點(diǎn)：

1）可用性方面，如果有一臺(tái)機(jī)器宕機(jī)，則指向這臺(tái)機(jī)器的請(qǐng)求無(wú)法讀取。

2）分流方面，只能全部同步，成本較高

3）只適用于面向用戶的系統(tǒng)

2.3.2 基于nginx的自動(dòng)手動(dòng)hash架構(gòu)

nginx的自動(dòng)hash架構(gòu)圖

nginx的自動(dòng)hash架構(gòu)說(shuō)明

1, 這是一種新的緩存架構(gòu)，由nginx作為最前端，代理到緩存機(jī)器。

2, nginx后面是緩存組，由nginx經(jīng)過(guò)url hash后將請(qǐng)求分到緩存機(jī)器。

3, 這個(gè)架構(gòu)方便純squid緩存升級(jí)，可以在squid的機(jī)器上加裝nginx。

4, nginx有緩存的功能，可以將一些訪問(wèn)量特大的鏈接直接緩存在nginx上，就不用經(jīng)過(guò)多一次代理的請(qǐng)求。比如favicon.ico和網(wǎng)站的logo。

nginx的自動(dòng)hash架構(gòu)優(yōu)缺點(diǎn)

優(yōu)點(diǎn)

1）高性能

2）使用方便，后臺(tái)是什么樣關(guān)系不大

3）有很高的可用性

4）緩存架構(gòu)，分流方便

5）可直接在nginx代理緩存部分鏈接

缺點(diǎn)

url分流可控性弱，增減緩存機(jī)器都會(huì)引起緩存重新分配，意味著緩存全部失效。

nginx的手動(dòng)hash架構(gòu)說(shuō)明

1，這個(gè)架構(gòu)圖和自動(dòng)hash的架構(gòu)是一樣的，唯一有差別的是hash算法的變化，自動(dòng)hash是用nginx upstream hash模塊自帶的hash算法來(lái)實(shí)現(xiàn)分流，這個(gè)手動(dòng)架構(gòu)是自己設(shè)計(jì)一個(gè)算法來(lái)實(shí)現(xiàn)。

2，算法設(shè)計(jì)思路是從url中取一個(gè)字符來(lái)作分流依據(jù)，比如定義鏈接的倒數(shù)第10個(gè)字符來(lái)分流，同樣可以分配得很均勻。

3，手動(dòng)架構(gòu)可以避免自動(dòng)架構(gòu)中增減機(jī)器帶來(lái)的緩存失效問(wèn)題，另外可以精確知道一個(gè)鏈接到底存在哪臺(tái)緩存上。

nginx的手動(dòng)hash架構(gòu)優(yōu)缺點(diǎn)

優(yōu)點(diǎn)

1）基本可以繼承自動(dòng)架構(gòu)的優(yōu)點(diǎn)

2）避免增減機(jī)器的問(wèn)題

3）精確知道鏈接存儲(chǔ)在哪臺(tái)緩存上

缺點(diǎn)

配置較復(fù)雜，要分配均勻配置不易。

采用Hash架構(gòu)對(duì)bbs架構(gòu)優(yōu)化

1，先前講的bbs架構(gòu)采用的是lvs+squid作為前端，這樣的話squidclient更新緩存時(shí)需要更新所有的squid，這個(gè)效率很低下，使用hash架構(gòu)就可以使squidclient每次只需要清理一臺(tái)squid，效率大為提升。

2，推薦的是使用nginx手動(dòng)hash架構(gòu)，它可以精確知道鏈接會(huì)存在哪臺(tái)機(jī)器上，這樣就可以配置精確的備份機(jī)器。

3.nginx圖片服務(wù)器的架構(gòu)方案

圖片服務(wù)通常數(shù)據(jù)容量較大，而且訪問(wèn)也頻繁，鑒于此，圖片服務(wù)就會(huì)有兩種問(wèn)題，一是存儲(chǔ)問(wèn)題，二是訪問(wèn)量問(wèn)題。
存儲(chǔ)問(wèn)題就是硬盤容量問(wèn)題， 花錢買硬盤就可以了，看似簡(jiǎn)單，但著實(shí)也是最苦的問(wèn)題。按目前探索來(lái)看，最好的方式是：在任何時(shí)刻遇到硬盤空間不夠時(shí)，買顆硬盤插上，最多改改配置，就能 立刻利用；另外，硬盤要能充分利用，不然圖片存儲(chǔ)量大再加上備份，很恐怖，最好是每顆硬盤都用上100%的空間。
訪問(wèn)量也是個(gè)大問(wèn)題，如 果服務(wù)不允許防盜鏈，那么訪問(wèn)量會(huì)引起帶寬、服務(wù)器壓力等問(wèn)題，有錢的話直接扔CDN，沒(méi)錢或者有更多的錢，就自己做吧。根據(jù)垣古不變的真理“越老的圖， 訪問(wèn)量也相對(duì)較少”這一點(diǎn)，分成兩大部分，一邊處理最新的圖片，一邊處理老舊的圖片。最新的圖片訪問(wèn)量大，但存儲(chǔ)量較少；老圖片訪問(wèn)量低，但存儲(chǔ)量大。

3.1 擬定一個(gè)存儲(chǔ)目錄規(guī)則

在現(xiàn)有的/a/b/abcde.jpg這樣的hash方式下多加一個(gè)日期的目錄變成：/200810/16/a/b/abcde.jpg或者/2008/10/16/a/b/abcde.jpg。按日期制定這個(gè)目錄規(guī)則后，就可以按年月來(lái)拆機(jī)器了。

3.2 分機(jī)器，分硬盤

按之前的計(jì)劃，分成兩個(gè)組，一組服務(wù)器用lvs做負(fù)載均衡負(fù)責(zé)新圖片；另一組服務(wù)器做舊圖片訪問(wèn)和備份。新圖機(jī)器找?guī)着_(tái)好點(diǎn)的服務(wù)器，SCSI硬盤；舊圖機(jī) 器沒(méi)太大要求，PC機(jī)就行，找夠硬盤就可以，現(xiàn)在IDE的1T硬盤也不太貴，最好再搭個(gè)raid就省事了，最主要是這些機(jī)器要多。如下圖：

說(shuō)明一下：

1、圖片服務(wù)通過(guò)lvs作為入口，處理能力上還是有保障的。

2、利用nginx直接對(duì)外服務(wù)，不必用squid。

3、圖中的紅線是指主nginx會(huì)將/2006和/2007年的圖片分別代理到兩臺(tái)存檔服務(wù)器，如果發(fā)現(xiàn)主nginx的cpu占用比較大，那么可以考慮使用nginx的proxy_store將圖片存到主服務(wù)器上，定期清理。

4、圖中有一臺(tái)存儲(chǔ)分配服務(wù)器，作為圖片服務(wù)更新圖片的統(tǒng)一入口，有新圖片或者修改圖片的話，由這臺(tái)服務(wù)器負(fù)責(zé)將圖片放到正確的服務(wù)器上去。

5、舊圖片服務(wù)器當(dāng)前用年份來(lái)劃分，每年增加兩臺(tái)服務(wù)器，亦可是加兩塊硬盤，注意，不要相信raid，一定要有兩臺(tái)機(jī)器，地理上分在兩個(gè)城市則更好。

6、因?yàn)榕f數(shù)據(jù)2006和2007年的數(shù)據(jù)基本上是沒(méi)有變化的，所以假如硬盤夠大，那么可以把兩年的數(shù)據(jù)合并在一起。

7、如果細(xì)心定制，那么舊圖片服務(wù)器的硬盤100%塞滿是可以的，舊數(shù)據(jù)的容量基本上不會(huì)大幅增長(zhǎng)，小小預(yù)留1-2G空間就可以了。

大型網(wǎng)站高并發(fā)情況下圖片服務(wù)器分離的分析與解決方案，各種圖片服務(wù)器架構(gòu)方案及總結(jié)了他們的優(yōu)缺點(diǎn)，大家根據(jù)自己需求自行選擇一種方案