《京東技術解密》——海量訂單處理
OFC的重要性2014年的618顯得和以往任何店慶促銷日都不同，不僅僅是因為電子商務本身在中國不斷飛速發(fā)展對京東系統(tǒng)帶來的挑戰(zhàn)，更為重要的是2014年5月22日剛走入美國納斯達克殿堂的京東聚集了最耀眼的光芒，能不能保持這樣的光芒，618則會是一份很有說服力的答卷，當然我們最終給出了滿意的結果。作為一個普通的購物者，當我們在瀏覽器中輸入www.jd.com并回車，便可以看到京東商城的首頁，根據(jù)自己的需要選擇喜歡的商品，然后加入購物車，提交訂單后，即可享受京東的極速物流體驗，最終完成一次簡單快樂的購物歷程。其實，訂單提交后，需要經(jīng)歷多個環(huán)節(jié)和各個系統(tǒng)的處理才能完成使命。其中有一個環(huán)節(jié)是訂單必須經(jīng)過的，而且這個環(huán)節(jié)連接了用戶下單和訂單在庫房的生產(chǎn)，就是訂單履約中心（OFC，Order Fulfillment Center），本章我們就為各位解密這個部門。 2014年的618后，京東技術團隊分享了如何應對店慶日及以往促銷活動在技術方面的經(jīng)驗和探索。其中有一講“電商海量訂單處理OFC系統(tǒng)的關鍵技術環(huán)節(jié)”（見京東技術開放日第一期），說的就是這個部門做的事情。 這個部門的職責，用彭青的話講就是，轉(zhuǎn)換用戶訂單為各終端系統(tǒng)的生產(chǎn)單，并且按要求送達到相應終端系統(tǒng)。舉個例子，就好比我們將采集到的原始食材按照客戶的不同口味（不同系統(tǒng)）進行烹制，并且在指定的時間內(nèi)做好后送到客人（終端系統(tǒng)）那里，整個過程包括訂單的拆分轉(zhuǎn)移和訂單的下傳。其實我們從網(wǎng)站下的訂單（也叫原始單）在庫房是直接生產(chǎn)不了的，需要經(jīng)過OFC這個環(huán)節(jié)的處理后，才能到達各個生產(chǎn)系統(tǒng)。由此可見，這個環(huán)節(jié)必然會有大量數(shù)據(jù)需要處理，而且還要保證時間。 想必大家知道關于京東的211、311等配送方式，如果用戶選擇不同的配送時間，京東的快遞就必須在用戶指定的時間送達，而如果下游的生產(chǎn)系統(tǒng)收到訂單數(shù)據(jù)比較晚，就會影響后續(xù)的配送時間，最終會影響客戶體驗?，F(xiàn)在訂單下傳，對接的全國庫房近150個，需要調(diào)用的外部處理訂單服務也有近20個，而每個系統(tǒng)的處理能力和響應能力又各不同，這就需要我們進行相應的調(diào)節(jié)流量的配置，這其中只要有一個系統(tǒng)存在問題，就可能會影響訂單的下傳。 OFC的形成2003年京東網(wǎng)站創(chuàng)立之后，迎來全國電商的快速發(fā)展，京東的業(yè)務隨之不斷增加，導致相應的業(yè)務系統(tǒng)也在持續(xù)增加。直到2011年，隨著系統(tǒng)增多及業(yè)務的需要，逐漸成長出來一個小團隊，負責在各個系統(tǒng)之間進行數(shù)據(jù)的傳輸，將客戶訂單數(shù)據(jù)傳到庫房，同時需要將非客戶訂單，如采購單、供應商、內(nèi)配單等二十多個業(yè)務傳輸?shù)较鄳臉I(yè)務系統(tǒng)，至此OFC成形。 初期由于各個系統(tǒng)的不完善，導致數(shù)據(jù)傳輸總是存在各種各樣的問題，訂單總會卡在這一環(huán)節(jié)，而作為傳輸環(huán)節(jié)又必須保證數(shù)據(jù)能正確傳輸完畢，這就需要我們必須了解上下游系統(tǒng)的業(yè)務及數(shù)據(jù)處理的過程，只有這樣才能知道問題產(chǎn)生的原因，才能知道該如何去處理問題。但是由于上下游的系統(tǒng)是需要經(jīng)常上線新需求的，我們每天需要及時了解上下游系統(tǒng)業(yè)務的處理，才能保證我們的環(huán)節(jié)沒有問題。 那段時間兄弟們真的很辛苦，每天需要處理上千個工單，加班更是常事，以至于一個同事說睡夢中都在處理問題單。由于業(yè)務領域劃分存在問題，系統(tǒng)邊界不明確，導致出現(xiàn)許多莫名其妙的問題，兄弟們干得很苦很累，直到彭青來了之后。彭青帶著一個厚厚的黑色全框眼鏡，個子不算太高卻有個小肚腩，學生族的發(fā)型讓人感覺很親切。彭青根據(jù)他多年的工作經(jīng)驗和對系統(tǒng)的理解，對這塊業(yè)務進行重新劃分，逐漸將非客戶工單的數(shù)據(jù)傳輸工作交接給對應系統(tǒng)進行處理，將兄弟們解放出來，開始客戶訂單處理的新征程。 到2011年底的時候，在彭青的帶領下我們已經(jīng)成為了二十多人的團隊。為了更進一步拓展在客戶訂單方面的業(yè)務領域，我們主動接手了訂單拆分系統(tǒng)和訂單轉(zhuǎn)移系統(tǒng)。這兩套元老級系統(tǒng)是用.Net編寫的，由于前輩們大都不在職了，文檔也不完善，對于系統(tǒng)內(nèi)部業(yè)務了解的人很少，修改非常難。而此時每天由于系統(tǒng)問題導致的事件單多達上百，也就是說每天運維帶來的工作量都是可觀的，在這樣的情況下，接手這兩個系統(tǒng)自然全無阻力。 技術的改造.Net到Java系統(tǒng)接過來了，第一步要做的事情當然是重寫。對技術的選取，根據(jù)當時公司技術發(fā)展戰(zhàn)略以及Java的普及，我們選用了Java。重寫過程中需要梳理已有的業(yè)務，自然少不了不斷和原來系統(tǒng)的人員進行交流，去確認業(yè)務流程和技術處理細節(jié)。經(jīng)過一個多月，系統(tǒng)的重寫總算完成，接下來的工作就是上線了。 開始小流量地切，我們通過開關進行控制，通過省市縣區(qū)域分流，到2012年2月系統(tǒng)算是上線了，而之前的.Net系統(tǒng)也逐漸退休了。到這時候，OFC逐漸根據(jù)業(yè)務劃分為3塊，第一塊是訂單拆分，第二塊是訂單的轉(zhuǎn)移，第三塊就是我們前面提到的訂單下傳和回傳。 這里要給大家解釋一下：
211訂單履約率提升項目重寫完之后，系統(tǒng)總算可以正常運轉(zhuǎn)了，而接下來的事情就是對系統(tǒng)的進一步梳理和優(yōu)化，以更好地支持將來業(yè)務需求的發(fā)展以及技術方面的擴展。當然有的時候系統(tǒng)的改進往往是由于外部業(yè)務的無法適應導致的，這也符合變革的本質(zhì)。用戶體驗至上一直是每一位京東人追求的目標，就連我們的老劉也會隔三差五在網(wǎng)上下單來體驗一下，而這次老劉發(fā)現(xiàn)了一些問題。當他下單后，等了半天才收到訂單，這讓老劉無法忍受。經(jīng)過調(diào)查后發(fā)現(xiàn)，從下單到庫房竟然花了兩個多小時。
改造前的系統(tǒng)整體設計圖 于是老劉立即成立了一個叫作“211訂單履約率提升”的項目，該項目涉及11個系統(tǒng)的升級改造，包括訂單交易系統(tǒng)、訂單管道系統(tǒng)、拆分系統(tǒng)、轉(zhuǎn)移系統(tǒng)、訂單任務系統(tǒng)、OFC相關系統(tǒng)、預分揀系統(tǒng)、面單系統(tǒng)、增值稅資質(zhì)服務、發(fā)票系統(tǒng)、WMS系統(tǒng)。其中4個系統(tǒng)需要全面改造，3個系統(tǒng)需要大量改造，剩下的4個需要少量改造，而且由于與訂單相關的業(yè)務點多且邏輯復雜，無法在測試環(huán)境下全面測試。這不僅影響著整個訂單的正常生產(chǎn)，甚至會影響財務相關業(yè)務。項目任務非常重要，要求兩個月內(nèi)保證訂單從下單到庫房的時間縮短到5分鐘內(nèi)。大家馬上開始了工作——需求討論6天，設計方案5天，開發(fā)15天，功能測試20天，性能測試44天，上線部署調(diào)試26天，總計工時達5066小時，最終實現(xiàn)了項目目標。與此同時訂單下傳各環(huán)節(jié)的服務性能指標也得到了規(guī)范，使得訂單下傳趨于穩(wěn)定，理順了訂單下傳流程。技術方面也得到了鍛煉，使用了Zookeeper分布式配置、CXF Timeout設置、Log4j多Tomcat示例配置、Oracle數(shù)據(jù)庫分區(qū)轉(zhuǎn)歷史方案，數(shù)據(jù)庫使用了OracleExadata、MySQL。在這過程中和Oracle技術團隊直接溝通多達10次，在數(shù)據(jù)庫設計方面、性能調(diào)優(yōu)、轉(zhuǎn)歷史數(shù)據(jù)方面都得到了提升。更為重要的是鍛煉了團隊，對于戰(zhàn)勝艱巨任務有了更大的信心。下面是系統(tǒng)的整體設計圖。
改造后的系統(tǒng)整體設計圖 對于拆分，在幾位大牛對系統(tǒng)的業(yè)務進行梳理后，發(fā)現(xiàn)部分業(yè)務有些混亂，業(yè)務領域劃分得不是很清楚，拆分系統(tǒng)中除了需要根據(jù)商品的不同屬性進行拆分外，還需要對訂單中使用的金額、優(yōu)惠、運費等信息進行分攤處理。這幾位大牛敏銳地發(fā)現(xiàn)系統(tǒng)這樣設計是有問題的，于是就把金額信息處理邏輯拿出來，專門做成一個服務——OCS訂單金額計算服務（OCS），拆分只需要對其調(diào)用就可以。同時，我們對OCS分攤結果的數(shù)據(jù)進行了持久化數(shù)據(jù)存儲。系統(tǒng)這樣設計，不僅解耦了拆分服務之前混亂的業(yè)務處理邏輯，OCS的數(shù)據(jù)也一舉填補了公司這方面數(shù)據(jù)的空白，成為其他系統(tǒng)使用和處理業(yè)務邏輯的數(shù)據(jù)基礎來源。到現(xiàn)在為止，直接使用OCS數(shù)據(jù)的系統(tǒng)就有二十多個，其重要性不言而喻。 SOP合頁單項目2013年，公司級項目SOP合頁單要啟動，即用戶購物車里既有京東自營的商品同時有POP商家的商品（SOP）。在結算的時候只需要提交一次（之前只能分開提交，類似淘寶多商家的商品只能單獨提交）。為了改善用戶體驗，同時需要將提交之后拆分完的子單結果顯示出來，需要我們團隊提供一個拆分服務供交易組使用，這是一個重大的考驗。下單環(huán)節(jié)的速度非?？欤琓P99一般都是幾十毫秒，而我們目前的服務則是幾十秒，完全不在一個數(shù)量級。為了保證項目能夠順利完成，我們既需要滿足日常的業(yè)務需求，同時要新切出一個分支進行修改，用于此次項目，同時需要將針對新需求的代碼及時同步到這兩個分支上，任務非常艱巨。解決了開發(fā)問題后，就要想著如何在性能上有所提升，比如，可以放在內(nèi)存里處理的就放在內(nèi)存中操作；盡量減少對外部服務的依賴；對于非同步化的操作進行異步化；對于部分服務我們甚至采用降級的方式，在必要時通過開關進行降級，保證整個服務的整體性能。如此這般后，我們主動要求性能測試組對我們的服務進行性能測試，在代碼級別進行了優(yōu)化，最后在指定的時間內(nèi)成功地完成項目。而此時我們在維護著同樣級別的3份拆分服務代碼，老的下單對應的我們前面說的老拆分，新的下單對應的我們新的拆分，還有我們?yōu)榻灰紫到y(tǒng)提供的預拆分。 而在此時最困擾我們的不是維護這些系統(tǒng)，而是經(jīng)常會由于網(wǎng)絡不好，使一個訂單的服務超時，進而導致服務進行重試，而事實上訂單已經(jīng)提交成功。這就可能使我們錯誤地提交兩次甚至是多次訂單，比如客戶下一個原始單，需要拆分成兩單，但是由于上述原因可能會得到多單；如果用戶選擇貨到付款，會給用戶造成困擾，會帶來配送的成本，如果是在線支付的話則會導致公司的損失。剛開始的時候沒有解決方案，只能通過監(jiān)控去發(fā)現(xiàn)，發(fā)現(xiàn)后人為鎖定這些訂單，而這樣不但增加了運維壓力，而且人工處理難免會有失誤。由于我們在提交子單之前會獲取訂單號，每一次獲取的訂單號都是新的，這會導致調(diào)用這個服務時對訂單號是無法防重的。后來海波想到一個防重方案，就是我們在調(diào)用這個服務之前將訂單號信息輸入自己的防重庫，新訂單來的時候先在防重庫中進行查儲，如果有訂單信息則說明之前提交過，本次提交失敗，然后直接把庫里相同訂單號的數(shù)據(jù)拿出來提交即可，這樣還可以節(jié)省訂單號。如果庫里沒有查到，我們將該訂單號插入庫中，同時調(diào)用服務。問題得到有效解決。本次提交經(jīng)過這一系列的處理優(yōu)化，系統(tǒng)總算是比較穩(wěn)定了。 轉(zhuǎn)移架構升級轉(zhuǎn)移系統(tǒng)也進行了大規(guī)模的調(diào)整，為了進一步保證訂單及時準確地轉(zhuǎn)移到下游的庫房系統(tǒng)，轉(zhuǎn)移團隊在業(yè)務和技術架構上進行了一系列的改進：業(yè)務和數(shù)據(jù)處理異步化，即將可以異步化處理的業(yè)務和數(shù)據(jù)放入分布式隊列，由對應的模塊處理；使主流程業(yè)務簡單快速流轉(zhuǎn)；數(shù)據(jù)處理并行化，將數(shù)據(jù)切割成多個業(yè)務單元，并行處理業(yè)務單元；針對變化少、實時性要求不嚴格的熱點數(shù)據(jù)，使用緩存并配以更新機制，以提高性能；對于業(yè)務洪峰，通過平滑控制保護后續(xù)系統(tǒng)不被洪峰壓垮。 在業(yè)務流程方面也進行了優(yōu)化。由于涉及訂單生產(chǎn)流程，需求變化速度非?？欤枰粩嗍崂憩F(xiàn)有流程，去除不必要的流程，減少有新需求時對不必要業(yè)務流程和分支的考慮。同時，需要對現(xiàn)有分散業(yè)務不斷地抽象和改造，以方便業(yè)務擴展。 面對這么多的優(yōu)化和改進，每次上線的風險無疑是巨大的，如何規(guī)避風險呢？那就是要分流、可配置化，以及運營工具先行。由于新上線的項目風險較高，特別是容易忽視一些對外交互的小功能，而發(fā)生線上問題時又無法及時切換。因此，需要對業(yè)務上線進行分流，并且通過靈活便捷的配置中心隨時進行控制。對于異常情況一定要優(yōu)先考慮，并且開發(fā)相應運營工具，以備緊急情況使用。尤其不能抱有僥幸心理，認為小概率事件不會發(fā)生在自己身上。 轉(zhuǎn)移團隊的負責人鐵總（大家總是這樣稱呼他）已經(jīng)從事電商十余年了。這個來自湘西的漢子對待工作總是嚴肅認真，但面對生活卻又充滿熱情；結婚前總會泡在游戲中，或者癡迷羽毛球，女兒出生后便成為了他的一切。在談到轉(zhuǎn)移未來的規(guī)劃和發(fā)展時，他充滿自信地說：“將來會在保證客戶體驗的同時，更多地通過在成本和流程上優(yōu)化來降低成本。庫存分配將在保證訂單履約的前提下，打破現(xiàn)在先下單先占庫存的規(guī)則，提高商品庫存周轉(zhuǎn)率和現(xiàn)貨率，同時給客戶提供更早的收貨時間選擇”。
轉(zhuǎn)移系統(tǒng)整體流程圖 不得不愛的運維剛開始負責客戶訂單系統(tǒng)時，每天要處理上千條Ticket（訂單事件），而現(xiàn)在只需處理幾十條。這種銳減，不僅說明了系統(tǒng)日漸健康、業(yè)務逐漸規(guī)范，更證明了我們的運維流程和運維制度正日趨成熟。這些成果都離不開善于分析總結的文杰，他是一位來自山東的80后，在團隊中主要負責運營流程優(yōu)化和與協(xié)調(diào)相關的工作，團隊在運維方面的問題目前還沒有他解決不了的。OFC是連接用戶和全國終端庫房的重要的通道樞紐，這其中的任何系統(tǒng)出了問題，都會導致訂單無法正確實時地到達終端庫房，后果都是不堪設想的。因此，每新增加一個庫房都需要團隊進行庫房的終端系統(tǒng)部署和調(diào)試，直至生產(chǎn)系統(tǒng)測試完成為止，我們稱此為開倉過程。隨著公司不斷發(fā)展壯大，訂單業(yè)務不斷完善，全國現(xiàn)存?zhèn)}庫已超過150個，這都是文杰和團隊無數(shù)日夜的付出換得的。支持審計也是不可忽略的一部分工作，每季度我們都會給同事講解新業(yè)務，給他們解釋差異訂單的原因。同時，我們還負責新業(yè)務的學習推廣，讓團隊的新成員能夠快速了解業(yè)務知識、熟悉業(yè)務系統(tǒng)。伴隨著業(yè)務和系統(tǒng)的日漸完善，我們也在不斷地嘗試和推廣系統(tǒng)的智能化運維與支持，相信在不久的將來我們一定會實現(xiàn)無人化系統(tǒng)運維。 從618到雙11從2012年開始，店慶促銷活動力度在逐次增加，訂單量則成倍增長。伴隨著訂單量的增加，系統(tǒng)面臨的挑戰(zhàn)與日俱增——訂單業(yè)務越來越繁雜，業(yè)務處理流程也越來越多，很容易出現(xiàn)數(shù)據(jù)不一致問題。因此，在處理海量訂單時保障數(shù)據(jù)一致性非常關鍵。系統(tǒng)整體控制上要采用流程控制中心，而不是階梯式控制。之前由于直接依賴數(shù)據(jù)庫，數(shù)據(jù)庫最終會成為影響訂單處理的瓶頸，數(shù)據(jù)的一致性很難得到保證，而采用流程控制中心模式則可以大大減少數(shù)據(jù)不一致發(fā)生的幾率，同時可以借助工作流和狀態(tài)機實現(xiàn)中心控制，這樣既便于運營，又方便及時發(fā)現(xiàn)和解決問題單據(jù)。
流程控制中心和階梯式控制 支持海量訂單處理無論系統(tǒng)如何優(yōu)化，單個系統(tǒng)總有瓶頸，要支持不斷增長的訂單處理量，關鍵在于提高系統(tǒng)的擴展能力。首先，核心系統(tǒng)的每一層都要有擴展能力，可以以實例為單位進行擴展，也可以以集群為單位進行擴展。其次，系統(tǒng)整體要有擴展能力，可以根據(jù)實際業(yè)務特點，從業(yè)務上進行垂直拆分以實現(xiàn)擴展，也可以通過分布式部署來方便地增加一個具備整體功能的集群，從而快速增加處理能力。這相比僅做備份系統(tǒng)而言，節(jié)約了成本。 所有核心的OFC訂單處理系統(tǒng)已實現(xiàn)了水平擴展能力，部分系統(tǒng)實現(xiàn)了分布式部署改造。在2014年618大促前，正是由于系統(tǒng)具備這種擴展能力，才能夠在非常短的時間內(nèi)擴展了處理能力，保障了大促的順利開展。我們的最終目標是，所有核心系統(tǒng)都要完成分布式部署。 解決數(shù)據(jù)一致性問題早期的訂單處理流程分散到多個應用系統(tǒng)中，數(shù)據(jù)來源不統(tǒng)一，也缺乏統(tǒng)一的狀態(tài)機控制，經(jīng)常出現(xiàn)數(shù)據(jù)不一致問題。但同時，也不可能由一個系統(tǒng)來管理所有的流程，因為維護和管理工作會非常龐雜。解決辦法是，梳理出訂單處理的主流程和狀態(tài)機，然后由主流程系統(tǒng)負責整體流程的調(diào)度和數(shù)據(jù)的推送。這個主流程可能跨大的業(yè)務域，如物流領域和資金領域，每個領域內(nèi)可以有工作流，但不能與主流程沖突。識別出主流程系統(tǒng)還有其他的優(yōu)點：一是可只重點建設主流程相關系統(tǒng)，使其成為穩(wěn)定的系統(tǒng)集群，而非主流系統(tǒng)則可以投入較少的成本，從而既有利于保障業(yè)務順利開展，又能降低整體建設成本；二是主流程系統(tǒng)可以有效地保障生產(chǎn)計劃的執(zhí)行；三是主流程系統(tǒng)可調(diào)節(jié)系統(tǒng)流量，有效地平滑業(yè)務高峰，保護主流程相關各主要系統(tǒng)的穩(wěn)定運行。 支撐運營工作對運營工作的支持，包括搶險、預防，以及“治理+預防的升級”。在早期階段，系統(tǒng)架構主要是支撐業(yè)務功能的實現(xiàn)，沒有為運營而設計，線上系統(tǒng)會因為各種意外而影響業(yè)務，讓系統(tǒng)團隊疲于應付。后來，確立了為可運營而設計的理念和原則，設計時必須考慮可監(jiān)控、可運營，同時把可用性、穩(wěn)定性、健壯性等列為設計的重點，在實踐過程中確立了自己的方法論。 第一，對系統(tǒng)進行梳理，識別出核心系統(tǒng)，把核心系統(tǒng)建設成為可用性高、可靠性高的系統(tǒng)，保障這些系統(tǒng)少出問題，出問題后系統(tǒng)要能自動恢復。 第二，保證系統(tǒng)出現(xiàn)問題后能快速發(fā)現(xiàn)問題，甚至在問題發(fā)生前發(fā)出報警。為此需要有對數(shù)據(jù)積壓量趨勢的監(jiān)控，以及在有積壓情況下吞吐能力的監(jiān)控。這些監(jiān)控需要及時，我們針對分布式系統(tǒng)，開發(fā)了分布式監(jiān)控系統(tǒng)，能夠迅速地反應每個部署的每一個實例的情況，又能收集整體的運行情況。 第三，保證發(fā)現(xiàn)問題后可以快速定位和處理。為此我們設計了集系統(tǒng)處理能力、數(shù)據(jù)積壓情況、數(shù)據(jù)處理情況、日志、系統(tǒng)負載于一體的統(tǒng)合分析工具。 第四，一個系統(tǒng)出現(xiàn)問題，往往會將影響傳遞到其他系統(tǒng)，系統(tǒng)治理勢在必行，目前我們已有SOA治理平臺（正在優(yōu)化過程中），目標是能夠理清各系統(tǒng)的血緣關系，完善SLA體系；在出現(xiàn)問題后可以及時評估出受影響的系統(tǒng)，快速做出應急響應。 海量數(shù)據(jù)的開始總原則訂單處理系統(tǒng)與交易系統(tǒng)本身是存在區(qū)別的。交易系統(tǒng)直接面對客戶，所以系統(tǒng)可用性要求和性能要求非常高，特別是在高并發(fā)情況下的系統(tǒng)表現(xiàn)，所以交易系統(tǒng)在架構上的重點在于解決這兩個方面的問題。而訂單處理則不同，系統(tǒng)短時間不可用，響應出現(xiàn)延遲不會對客戶造成直接影響，也就說我們關心的是平均值而不是某時刻的峰值。訂單處理系統(tǒng)架構設計的關鍵在于如何處理海量數(shù)據(jù)，以及數(shù)據(jù)一致性的保障。近年來，京東的業(yè)務領域不斷拓展，訂單量飛速增加，所以必須保障系統(tǒng)吞吐能力得到提升。與此同時由于涉及的系統(tǒng)眾多，各系統(tǒng)業(yè)務處理方式和流程不同，導致各系統(tǒng)性能指標差異較大，所以要定義好各個系統(tǒng)的SLA指標。由于訂單的業(yè)務越來越復雜，那么系統(tǒng)的業(yè)務流程也會越來越多，這就需要我們劃分好主次業(yè)務流程以及優(yōu)先級，同時需要設計靈活多樣的降級方案，保證主業(yè)務正常運營。
OFC整體架構圖 系統(tǒng)保護涉及OFC調(diào)用的訂單系統(tǒng)很多，而各個系統(tǒng)處理的能力均不相同，不是所有的系統(tǒng)都要承擔高峰值處理的壓力。這就需要有針對性地控制、調(diào)用這些系統(tǒng)，具備削峰和流量控制的功能，以間接保護上下游系統(tǒng)，防止調(diào)用方的系統(tǒng)雪崩式掛掉。還有就是監(jiān)控，要有統(tǒng)一的產(chǎn)能監(jiān)控；要防止過載，在過載之前要能進行控制，要保證自身系統(tǒng)的安全穩(wěn)定，還可以采用快速拒絕的機制。 分布式系統(tǒng)主要是在擴展方面進行設計，保證系統(tǒng)每個切片可以水平擴展，也可以以集群為單位進行擴展，實現(xiàn)分布式任務隊列。我們每一個Group能處理的訂單量在可控制的范圍內(nèi)，一旦某一處出現(xiàn)瓶頸，可以隨時部署一個或一套Group。下圖中不同Group可以彼此獨立部署，也可以整體部署，當某一處出現(xiàn)問題時可以單獨進行部署，或者整體流量大時也可以復制部署。
分布式系統(tǒng)架構 而分布式任務處理架構圖如下，在分布式任務處理引擎的基礎上，我們可以通過在圖下方左側(cè)的分布式任務隊列（Redis緩存）中取任務，然后由我們的引擎一步一步去調(diào)度相應的服務，將結果返回給對應的服務進行業(yè)務處理，同時也返回我們需要的結果，真正將交易快照數(shù)據(jù)轉(zhuǎn)換為生產(chǎn)單據(jù)，最后將數(shù)據(jù)推送到客戶端系統(tǒng)，比如庫房系統(tǒng)、POP商家系統(tǒng)。
分布式任務處理架構 分布式任務隊列設計可以通過下圖說明。首先我們會對任務進行分片，定義每一個任務為一片，然后將任務在任務執(zhí)行器中加以處理，而每個任務執(zhí)行器又有多個線程去處理和調(diào)用不同的服務，最終再將結果返回。這里還會有一個異常任務隊列，對于那些處理失敗的任務，會將其放入異常任務執(zhí)行隊列，進行異常處理流程的執(zhí)行。可能大家會想，如果系統(tǒng)掛了，那個任務的數(shù)據(jù)也將丟失，沒有執(zhí)行完任務怎么辦。事實上只要我們的原始訂單數(shù)據(jù)存在，完全可以恢復為再次執(zhí)行，最多執(zhí)行會緩慢，但不會導致數(shù)據(jù)一致性出現(xiàn)問題。
分布式任務隊列設計 我們的分布式任務隊列采用了工作流的機制，支持靈活的流程配置，這主要通過Zookeeper來進行分布式配置，可以動態(tài)添加業(yè)務處理環(huán)節(jié)。同時，可以自動調(diào)節(jié)系統(tǒng)的吞吐量，當任何一個環(huán)節(jié)出現(xiàn)問題時，都會進行自動降速，當問題得以解決后，我們會進行自動增速，保證系統(tǒng)的吞吐量；我們還可以通過配置對一些高級別的訂單進行優(yōu)先生產(chǎn)處理。 系統(tǒng)部署如下圖所示：
系統(tǒng)部署圖 一直在路上的OFC人從2011年6月初只有五六個人的小組，到今天三十多人的團隊，從開始只負責非客戶訂單相關業(yè)務系統(tǒng)，到今天負責公司核心的0級訂單系統(tǒng)，OFC業(yè)務范圍橫跨了整個訂單生產(chǎn)過程的大半個生命周期。是的，就是這些普通人，在紛亂中不迷茫，在歡笑中不忘使命，表面屌絲內(nèi)心渴望前進的OFC人，義無反顧地堅持在訂單系統(tǒng)的一線上。回望著走過的路，我們竟如此平靜而淡定，遙望遠方，我們依舊充滿激情，依舊會綻放陽光般的笑容。因為這是個偉大的時代，偉大的國度，因為這里有一群偉大的人在做著一件偉大的事情——為了讓購物變得簡單快樂，而我們便是那群人。
OFC開發(fā)團隊及測試團隊合影 該文章在 2015/1/16 16:57:13 編輯過 |
關鍵字查詢
相關文章
正在查詢... 
|
400 186 1886
