2017年的雙11即將來臨,又是國內各大電商巨頭撕逼的日子,京東、淘寶、蘇寧等大型電商為了搶奪客戶,已經提前一個月開始布局戰(zhàn)場,戰(zhàn)爭未起,硝煙彌漫已經彌漫了。除了每年造就無數(shù)的敗家買家外,雙 11 也對各大各大電商平臺的服務支撐提出了更高挑戰(zhàn)。如何保證買家在購物過程中的流暢體驗十分重要,再具性價比的商品在碰到網站無法響應時也會失去吸引力。因此,在各位買家開啟買買買血拼模式的同時,各大電商平臺也嚴陣以待,為一年中最繁忙的一天提供更強有力的 IT 技術保障。
雙十一期間,服務器必需保持48小時不間斷正常穩(wěn)定高效的運行。IT技術保障中,服務器穩(wěn)定性和可靠性成為電商巨頭首先考慮的事情,為此,首先要選擇的是高可用性的云服務器。
秒殺背后的技術挑戰(zhàn)
1、突增的服務器及網絡需求
雙 11 這個萬眾狂歡的節(jié)日,對于電商員工來說,每個環(huán)節(jié)都面臨前所未有的考驗。
對 IT 運維部門來講,需要備足充分的服務器和網絡帶寬資源來應付這一挑戰(zhàn)。通常情況下,雙 11 的服務器使用是平時的 3-5 倍,網絡帶寬是平時 2-4 倍,如何在短時間應付這些問題,如何讓 IT 投資利用最大化,是擺在電商 IT 們面前一大難題。
2、業(yè)務高并發(fā),服務負載重
我們通常衡量一個 Web 系統(tǒng)的吞吐率的指標是 QPS(Query Per Second,每秒處理請求數(shù)),解決每秒數(shù)萬次的高并發(fā)場景,這個指標非常關鍵。
假設處理一個業(yè)務請求平均響應時間為 100 ms,同時,系統(tǒng)內有 20 臺 Web 服務器,配置最大連接數(shù)為 500 個,Web 系統(tǒng)的理論峰值 QPS 為(理想化的計算方式):100000 (10萬QPS)意味著 1 秒鐘可以處理完 10 萬的請求,而“秒殺”的那 5w/s 的秒殺似乎是“紙老虎”。
實際情況,在高并發(fā)的實際場景下,服務器處于高負載的狀態(tài),網絡帶寬被擠滿,在這個時候平均響應時間會被大大增加。隨著用戶數(shù)量的增加,數(shù)據(jù)庫連接進程增加,需要處理的上下文切換也越多,服務器造成負載壓力越來越重。
3、業(yè)務耦合度高,引起系統(tǒng)“雪崩”
更可怕的問題是,當系統(tǒng)上某個應用因為延遲而變得不可用,用戶的點擊越頻繁,惡性循環(huán)最終導致“雪崩”,因為其中一臺服務器掛了,導致流量分散到其他正常工作的機器上,再導致正常的機器也掛,然后惡性循環(huán),將整個系統(tǒng)拖垮。
億速云服務器采用高性能主機CPU、內存各項性能指標業(yè)界領先,獨有的專利存儲技術將磁盤隨機讀寫I/O能力提高10倍于普通SAS盤;在高速盤集群上配備餓了SSD高速陣列硬盤,同時支持高達160,000IOPS和18,000IOPS的隨機讀寫速度,平均讀寫性能高達1000MB/S,這種模式對IO優(yōu)化很好,成本也很低 ,滿足密集型頻繁讀寫業(yè)務需求。
電商秒殺活動應對策略
1、彈性資源伸縮,快速響應
不像傳統(tǒng) IT 模式,企業(yè) IT 部門需要預先先采購大量的服務器及網絡帶寬資源,用戶在億速云管理后臺上即時開通服務器資源,分鐘級別創(chuàng)建或釋放云主機,5分鐘內升級或降級主機CPU和內存,在管理后臺可以自行增加IP,在線升級或降級公網帶寬,自定義鏡像功能輕松復制主機數(shù)據(jù)和環(huán)境。更提供開放API,滿足批量管理、自動化管理需求。
除此之外,利用億速云自動伸縮(AutoScaling)功能可以幫助用戶基于資源的監(jiān)控告警規(guī)則動態(tài)調節(jié)配置或集群規(guī)模,比如調整帶寬上限,擴容關系型數(shù)據(jù)庫的存儲空間,增加或減少負載均衡器后端數(shù)量。
2、系統(tǒng)模塊有效切分
為了防止系統(tǒng)應用過于耦合,我們一般建議用戶在系統(tǒng)架構上做到有效切分,以防業(yè)務之間因為資源的爭搶帶來的相互影響:
用戶請求分發(fā)模塊:
通過億速云的負載均衡器集群(Load Balancer Cluster)可以將一個公網 IP 的流量,分散到多個負載均衡器節(jié)點做并發(fā)處理,突破單負載均衡器節(jié)點的能力瓶頸,提供可擴展的轉發(fā)帶寬和 HTTPS 卸載能力。
用戶請求預處理模塊:
在內網開通多臺主機,主機上盡量使用無狀態(tài)服務器,主機上可以預處理用戶請求,通過后端IO監(jiān)控,隨時增減主機數(shù)量。
用戶請求處理模塊:
把通過預處理的請求封裝成事務提交給數(shù)據(jù)庫,并返回是否成功。
數(shù)據(jù)庫接口模塊:
該模塊是數(shù)據(jù)庫的唯一接口,負責與數(shù)據(jù)庫交互,提供RPC接口供查詢是否秒殺結束、剩余數(shù)量等信息。另外億速云提供關系型數(shù)據(jù)庫服務, 包括主從節(jié)點、高可用服務、讀寫分離、自動備份、在線擴容以及監(jiān)控告警等各種管理功能。
3、充分利用緩存服務
緩存 (Cache) 可以提供高性能的緩存集群。一個集群包含多個緩存節(jié)點,支持主從、一主多從和多主多從架構,確保高可用。
另外,億速云服務器提供在線擴容,自動備份,監(jiān)控告警和圖形化操作等功能來管理集群;集群將運行于私有網絡內,結合 億速云提供的高性能SSD硬盤,在保障高性能的同時兼顧您的數(shù)據(jù)安全。億速云目前支持 Redis standalone、Redis cluster 和 Memcached 緩存。
最近,億速云為了雙十一熱潮,宣布旗下的云服務器價格全線下調,最高降幅達到50%,新用戶最低68元就可以享受雙核高性能處理器,2G內存,高速SSD硬盤,以及3M BGP多線獨享帶寬,還可以領到140元的新手紅包。而根據(jù)最近的市場數(shù)據(jù)顯示,億速云主機成為了當下云市場最暢銷的爆款云服務器。
申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!