自主研發(fā)的京東云
京東作為國(guó)內(nèi)最大的電商之一，也在搭建自己的云平臺(tái)，而且大部分的技術(shù)都是自主研發(fā)。為什么不選擇現(xiàn)有的資源而要自己研發(fā)？
京東云大數(shù)據(jù)平臺(tái)技術(shù)負(fù)責(zé)人廖曉輝說(shuō)：“京東全產(chǎn)業(yè)鏈的電商模式，在國(guó)內(nèi)是獨(dú)一無(wú)二的,沒(méi)有成熟產(chǎn)品可以借鑒，很多技術(shù)問(wèn)題都需要?jiǎng)?chuàng)新的方式去解決。只有自主研發(fā)才能打造出最適合京東的信息系統(tǒng)。第二，“技術(shù)驅(qū)動(dòng)”一直是京東的發(fā)展戰(zhàn)略，我們自主研發(fā)的信息系統(tǒng)和積累技術(shù)，是京東的核心競(jìng)爭(zhēng)力之一。但是事實(shí)上京東并沒(méi)有完全自主研發(fā)所有的系統(tǒng)，也應(yīng)用了一些開(kāi)源的的技術(shù)。再結(jié)合京東自身的業(yè)務(wù)，去解決京東遇到的問(wèn)題，從而更好地為我們業(yè)務(wù)去服務(wù)，為用戶去服務(wù)。”
京東的云平臺(tái)卻包含很多分支包括宙斯、云鼎，移動(dòng)平臺(tái)等，是什么原因讓京東打算做這么復(fù)雜的云平臺(tái)？
廖曉輝認(rèn)為，京東云對(duì)外所推出的公有云服務(wù)，都是基于私有云技術(shù)的產(chǎn)品。京東自身業(yè)務(wù)發(fā)展非常需要有一個(gè)穩(wěn)定，完善的私有云做基礎(chǔ)。在私有云技術(shù)產(chǎn)品穩(wěn)定后我們就對(duì)京東生態(tài)內(nèi)的合作伙伴、對(duì)社會(huì)開(kāi)放。云平臺(tái)是京東技術(shù)產(chǎn)業(yè)化的先鋒，要以云技術(shù)和云模式，構(gòu)建一個(gè)電商云生態(tài)，讓京東生態(tài)內(nèi)的賣家和合作伙伴以及讓全社會(huì)做電商的企業(yè)都能在京東云上享受到京東的電商服務(wù)。
隨著京東的發(fā)展，京東的賣家越來(lái)越多，所有的電商平臺(tái)都存在這樣一個(gè)問(wèn)題：多個(gè)租戶共享同一數(shù)據(jù)庫(kù)實(shí)例必然需要一個(gè)有效的隔離方案，防止一個(gè)用戶的慢查詢請(qǐng)求或惡意請(qǐng)求影響其他用戶訪問(wèn)。
廖曉輝說(shuō)：“就做云數(shù)據(jù)庫(kù)來(lái)講，在京東云里面提供的服務(wù)既有共享型的數(shù)據(jù)庫(kù)，也有獨(dú)享型的數(shù)據(jù)庫(kù)。一些用戶特別關(guān)注的資源隔離對(duì)于這個(gè)問(wèn)題，我們的做法是用獨(dú)立的虛機(jī)方式去做部署，或者基于容器技術(shù)—Docker去實(shí)現(xiàn)不同級(jí)別的資源隔離。”
大數(shù)據(jù)環(huán)境下的Spark
毫無(wú)疑問(wèn)京東的數(shù)據(jù)量一定大的驚人，那么在大數(shù)據(jù)環(huán)境下進(jìn)行數(shù)據(jù)分析，更多人都會(huì)選擇Spark，因?yàn)榇蠹叶贾浪腔趦?nèi)存上面進(jìn)行運(yùn)算，這樣的話可能處理的數(shù)據(jù)會(huì)有限。
廖曉輝告訴記者：“就spark來(lái)講，它出現(xiàn)時(shí)間不長(zhǎng)發(fā)展的卻很快，它的RDD分布式內(nèi)存結(jié)構(gòu)概念和容錯(cuò)性支持，以及利用DAG做執(zhí)行優(yōu)化，即性能和可靠性的表現(xiàn)，使得它非常有吸引力。但在內(nèi)存受限的情況下，確實(shí)會(huì)影響它的性能表現(xiàn)。對(duì)于內(nèi)存等資源限制的情況下，還需要對(duì)大量數(shù)據(jù)做低延遲處理，，這種場(chǎng)景我們可能需要考慮采取近似計(jì)算方式，但 如果計(jì)算結(jié)果的精度要求不能降低，可能我們要走增量計(jì)算的方式：持續(xù)性地對(duì)一些增量數(shù)據(jù)做一些累進(jìn)式的實(shí)時(shí)計(jì)算，來(lái)得到實(shí)時(shí)地計(jì)算結(jié)果來(lái)滿足業(yè)務(wù)或用戶的需求，相當(dāng)于把全量數(shù)據(jù)的離線計(jì)算，轉(zhuǎn)變成一種持續(xù)性的增量的計(jì)算方式。”
在數(shù)據(jù)存儲(chǔ)上大致有幾類，像通常的key-value數(shù)據(jù)庫(kù)，文檔型的數(shù)據(jù)庫(kù)mongodb，列式分布式數(shù)據(jù)庫(kù)HBase等等，京東是如何考量和選擇的HBase的？
廖曉輝書(shū)：其實(shí)各種不同的數(shù)據(jù)庫(kù)類型我們都有用到,包括HBase和mongodb。選擇哪一種需要結(jié)合我們的業(yè)務(wù)需求，考慮數(shù)據(jù)存取的計(jì)算方式以及開(kāi)發(fā)效率。mongodb它對(duì)各種語(yǔ)言都非常友好并提供相對(duì)豐富的API，它數(shù)據(jù)在數(shù)據(jù)量不是非常大的情況下，會(huì)有非常好的性能表現(xiàn)。而對(duì)于HBase來(lái)說(shuō)，它屬于Hadoop生態(tài)里面的一款產(chǎn)品，它適合random access場(chǎng)景或少數(shù)據(jù)量scan，隨著數(shù)據(jù)增長(zhǎng)易于擴(kuò)容同時(shí)維持高的讀寫(xiě)性能;列存儲(chǔ)對(duì)于稀疏矩陣數(shù)據(jù)存儲(chǔ)，加上壓縮，能提高存儲(chǔ)的效率。我們還是根據(jù)業(yè)務(wù)需要，以及數(shù)據(jù)量的規(guī)模，考慮以后的擴(kuò)容以及項(xiàng)目研發(fā)效率來(lái)選擇。
傳統(tǒng)上，若是使用Hadoop MapReduce框架，雖然可以容易地實(shí)現(xiàn)較為復(fù)雜的統(tǒng)計(jì)需求，但實(shí)時(shí)性卻無(wú)法得到保證；反之若是采用Storm這樣的流式框架，實(shí)時(shí)性雖可以得到保 證，但需求的實(shí)現(xiàn)復(fù)雜度也大大提高了我們。Spark Streaming在兩者之間找到了一個(gè)平衡點(diǎn)？
廖曉輝解答 ：“Hadoop MapReduce計(jì)算模式實(shí)際上降低了做并行計(jì)算、大數(shù)據(jù)處理的門檻，適合于高吞吐量的批處理場(chǎng)景。而Storm和Spark-Streaming，它們都是流式計(jì)算的框架。Storm以其低延遲、易擴(kuò)展性和容錯(cuò)機(jī)制等特點(diǎn)發(fā)展至今已經(jīng)非常成熟，也非常優(yōu)秀，為許多互聯(lián)網(wǎng)公司所青睞。Spark-Streaming它基于spark將流式數(shù)據(jù)拆分為mini-batch做持續(xù)計(jì)算，從目前來(lái)看，它的處理延遲可能稍高，但也基本滿足實(shí)時(shí)計(jì)算地要求，且它有豐富的計(jì)算和轉(zhuǎn)換類API，并易于使用。雖然內(nèi)部使用Scala去實(shí)現(xiàn)但是也支持JAVA的開(kāi)發(fā)，在開(kāi)發(fā)效率方面還是非常高的，此外，我們自己的經(jīng)驗(yàn)是在生產(chǎn)環(huán)境驗(yàn)證了它的穩(wěn)定性和可靠性。如果對(duì)兩者進(jìn)行比較，個(gè)人認(rèn)為，storm適合對(duì)實(shí)時(shí)性要求更高的場(chǎng)合，因?yàn)樗梢园蜒舆t控制在亞秒級(jí)或者更低。而Spark-Streaming作為Spark Stack中的一員，如果熟悉了Spark下的開(kāi)發(fā)方式，對(duì)Spark-streaming的開(kāi)發(fā)非常容易上手；大部分的大數(shù)據(jù)處理需求，不同的workload，Spark Stack中有相應(yīng)的技術(shù)產(chǎn)品可供選擇，可避免維護(hù)不同的計(jì)算框架。選擇Spark-Streaming就要考慮這個(gè)生態(tài)系統(tǒng)里的其他產(chǎn)品以及開(kāi)發(fā)效率。Spark社區(qū)很火，在今年出現(xiàn)1.0版本之后，很快就出現(xiàn)了1.1版本，有非常好的勢(shì)頭，也在實(shí)際應(yīng)用中用它的優(yōu)異表現(xiàn)在贏得越來(lái)越多的用戶。”
雙十一過(guò)去不久京東作為國(guó)內(nèi)首屈一指的電商平臺(tái)在雙十一期間如何保證服務(wù)器在大量請(qǐng)求、訪問(wèn)的的正常運(yùn)轉(zhuǎn)而不宕機(jī)的？
廖曉輝說(shuō)：“雙十一保障是一項(xiàng)有組織有計(jì)劃地工作。在雙十一之前會(huì)有一個(gè)比較長(zhǎng)的籌備時(shí)間，會(huì)對(duì)雙十一的流量和業(yè)務(wù)的增長(zhǎng)做一個(gè)預(yù)估，有計(jì)劃的去做線上的系統(tǒng)擴(kuò)容以及完善監(jiān)控，并對(duì)可能的異常做好演練并制定預(yù)案。雙十一期間近一周左右時(shí)間，京東的研發(fā)部包括云平臺(tái)的研發(fā)人員會(huì)安排人員24小時(shí)值班，來(lái)解決任何可能出現(xiàn)的線上問(wèn)題。雙十一之后對(duì)雙十一的情況做一個(gè)總結(jié)，積累經(jīng)驗(yàn)，從而提升系統(tǒng)的穩(wěn)定性。
另外，從服務(wù)系統(tǒng)架構(gòu)層面，要有HA, Loadbalance 設(shè)計(jì)，有故障只降服不停服，可彈性擴(kuò)容；要有非常及時(shí)和完善的監(jiān)控，保障異常情況下，第一時(shí)間處理，縮短故障時(shí)間。再有就是防攻擊系統(tǒng)和災(zāi)備方案進(jìn)一步提供保障。”
介紹一下京東云中大數(shù)據(jù)的云服務(wù)，你們的技術(shù)實(shí)現(xiàn)，對(duì)Spark的應(yīng)用，以及產(chǎn)品路線和遇到的挑戰(zhàn)。
廖曉輝說(shuō)：“云海是京東云提供的大數(shù)據(jù)開(kāi)放服務(wù)，是商家驅(qū)動(dòng)的數(shù)據(jù)開(kāi)發(fā)平臺(tái)，商家授權(quán)數(shù)據(jù)，ISV來(lái)開(kāi)發(fā)相關(guān)數(shù)據(jù)產(chǎn)品，服務(wù)于商家的數(shù)據(jù)驅(qū)動(dòng)、精細(xì)化運(yùn)營(yíng)的需求。同時(shí)用戶也可以上傳自己的數(shù)據(jù)，作為京東平臺(tái)電商數(shù)據(jù)的補(bǔ)充。
云海中的Spark
云海不僅提供大數(shù)據(jù)存儲(chǔ)和計(jì)算資源，同時(shí)還有云端的數(shù)據(jù)挖掘和開(kāi)發(fā)工作臺(tái)，這背后所涉及到的交互查詢分析，批處理計(jì)算，實(shí)時(shí)計(jì)算，機(jī)器學(xué)習(xí)算法工具，在線OLAP分析，都涉及到Spark相關(guān)技術(shù)的應(yīng)用。我們?cè)谝劳蠸park來(lái)搭建高效的計(jì)算平臺(tái)和工具集，目的是使挖掘數(shù)據(jù)價(jià)值的過(guò)程變得更敏捷，而且是一套全云端的解決方案。
京東有大數(shù)據(jù)平臺(tái)建設(shè)的豐富經(jīng)驗(yàn)，同時(shí)數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)，數(shù)據(jù)驅(qū)動(dòng)決策，基于大數(shù)據(jù)的精細(xì)化運(yùn)營(yíng)上也有成熟的經(jīng)驗(yàn)，這些個(gè)經(jīng)驗(yàn)也能幫助在京東上做生意的商家，可以借鑒用于改善運(yùn)營(yíng)效率，提高用戶滿意度。這個(gè)價(jià)值輸出，通過(guò)云海，做的方式就是團(tuán)結(jié)在電商領(lǐng)域期望結(jié)合大數(shù)據(jù)提供數(shù)字化運(yùn)營(yíng)解決方案的軟件商這個(gè)群體，搭建一個(gè)平臺(tái)以數(shù)據(jù)為核心，連接商家需求和ISV數(shù)據(jù)產(chǎn)品服務(wù)，同時(shí)對(duì)ISV的數(shù)據(jù)產(chǎn)品做一些引導(dǎo)，在解決商家的實(shí)際問(wèn)題中產(chǎn)生價(jià)值。
在云海的建設(shè)過(guò)程中我們碰到很多挑戰(zhàn)，有大數(shù)據(jù)處理的技術(shù)方面的，對(duì)于這類問(wèn)題，我們也結(jié)合業(yè)務(wù)，基于Spark做自主地研發(fā)工作或改進(jìn)框架本身。同時(shí)數(shù)據(jù)開(kāi)放的有效和可行方式，我們也在探索中。近些年大數(shù)據(jù)概念的“熱”以及大數(shù)據(jù)在一些互聯(lián)網(wǎng)公司，電商企業(yè)，以及金融等領(lǐng)域的應(yīng)用的示范作用，讓各組織越來(lái)越重視數(shù)據(jù)資產(chǎn)，現(xiàn)階段，由于數(shù)據(jù)的敏感性，對(duì)數(shù)據(jù)收集、處理、挖掘大多限于組織內(nèi)部。但從另一方面，相信很多人都同。在數(shù)據(jù)的網(wǎng)絡(luò)里，數(shù)據(jù)連接數(shù)據(jù)，匯聚各領(lǐng)域的數(shù)據(jù)，數(shù)據(jù)開(kāi)放共享、供給不斷，讓更多人、個(gè)體有機(jī)會(huì)及時(shí)、便捷地分析和挖掘其中的價(jià)值，勢(shì)必能讓數(shù)據(jù)發(fā)揮更大的作用，甚至把社會(huì)信息化帶入一個(gè)更高的層次。因?yàn)檫@兩面性，即在數(shù)據(jù)資產(chǎn)保護(hù)和開(kāi)放之間求得一種平衡，建立數(shù)據(jù)交換可行、可信的平臺(tái)，同時(shí)是可持續(xù)的，值得更多的組織和個(gè)人來(lái)探索，合作。
京東在云上的新戰(zhàn)略
京東集團(tuán)技術(shù)副總裁兼首席科學(xué)家何剛說(shuō)道：京東云不止是云計(jì)算，是全產(chǎn)業(yè)鏈云服務(wù)。
在何剛看來(lái)：京東在十二年的發(fā)展中，構(gòu)筑了全產(chǎn)業(yè)鏈的互聯(lián)網(wǎng)電商能力，從供貨商到采購(gòu)、倉(cāng)庫(kù)、銷售、配送和售后服務(wù)，都有了一套成熟的解決方案。京東希望把這些技術(shù)能力對(duì)外進(jìn)行輸出，包括互聯(lián)網(wǎng)經(jīng)驗(yàn)的咨詢服務(wù)、互聯(lián)網(wǎng)基礎(chǔ)技術(shù)的云計(jì)算、大數(shù)據(jù)服務(wù)，產(chǎn)品設(shè)計(jì)、后端核心服務(wù)、開(kāi)發(fā)實(shí)施等業(yè)務(wù)信息系統(tǒng)升級(jí)建設(shè)。并從營(yíng)銷、物流、金融、運(yùn)營(yíng)人才等業(yè)務(wù)資源上結(jié)成深度長(zhǎng)期的合作關(guān)系，做到企業(yè)間數(shù)據(jù)互通，伴隨企業(yè)共同成長(zhǎng)，形成互聯(lián)網(wǎng)企業(yè)生態(tài)，做到風(fēng)險(xiǎn)共擔(dān)、收益共享。
戰(zhàn)略層面，京東云包含“全產(chǎn)業(yè)鏈能力輸出、結(jié)成深度合作關(guān)系紐帶、共享云計(jì)算大數(shù)據(jù)技術(shù)、發(fā)展互聯(lián)網(wǎng)企業(yè)生態(tài)”四個(gè)方面，全面幫助中國(guó)企業(yè)實(shí)現(xiàn)“互聯(lián)網(wǎng)+”的升級(jí)。
產(chǎn)業(yè)鏈層面，在京東營(yíng)銷、交易、采購(gòu)、倉(cāng)儲(chǔ)、配送、客服、職能、金融等服務(wù)基礎(chǔ)上，匯聚信息流、物流和資金流，提供互聯(lián)網(wǎng)基礎(chǔ)技術(shù)（云計(jì)算和大數(shù)據(jù)），互聯(lián)網(wǎng)經(jīng)驗(yàn)輸出（戰(zhàn)略咨詢、商業(yè)模式、管理咨詢）、電商業(yè)務(wù)資源合作（營(yíng)銷、商品 、物流、金融、運(yùn)營(yíng)等），業(yè)務(wù)信息系統(tǒng)建設(shè)升級(jí)（系統(tǒng)設(shè)計(jì)、核心功能模塊、開(kāi)發(fā)實(shí)施）。
產(chǎn)品層面：面向云平臺(tái)的工具運(yùn)維服務(wù)，如自動(dòng)編譯、統(tǒng)一監(jiān)控、統(tǒng)一日志、自動(dòng)部署；面向行業(yè)的云計(jì)算服務(wù)，自動(dòng)擴(kuò)展部署、離線/在線數(shù)據(jù)分析、開(kāi)放API；面向云托管服務(wù)，如云數(shù)據(jù)庫(kù)、緩存、VPC、數(shù)據(jù)復(fù)制、災(zāi)備、負(fù)載均衡、消息隊(duì)列、云安全；面向資源服務(wù)：云存儲(chǔ)、云主機(jī)、云網(wǎng)絡(luò)、計(jì)量計(jì)費(fèi)等。
目標(biāo)鎖定：農(nóng)業(yè)、制造業(yè)、服務(wù)業(yè)、金融、政務(wù)、物流。
創(chuàng)新聯(lián)盟啟動(dòng)：京東云與嘉寶集團(tuán)、鋒創(chuàng)科技、福建茶博匯就電商云的合作完成簽約；與首農(nóng)集團(tuán)、亞信數(shù)據(jù)、百度就數(shù)據(jù)云的合作完成簽約。未來(lái)還有更多傳統(tǒng)企業(yè)、生態(tài)伙伴達(dá)成長(zhǎng)期穩(wěn)定合作。
何剛表示：“企業(yè)的互聯(lián)網(wǎng)化已經(jīng)不能僅僅停留在業(yè)務(wù)電商化的層面上，而是需要將互聯(lián)網(wǎng)思維和技術(shù)結(jié)合起來(lái)，對(duì)外、對(duì)內(nèi)都深度互聯(lián)網(wǎng)化。”從外部看，在商業(yè)模式上，應(yīng)該采取什么樣的電商模式？是委托代運(yùn)營(yíng)？官網(wǎng)電商化？還是經(jīng)銷商自建模式？營(yíng)銷推廣上，如何獲取客戶流量？如何實(shí)現(xiàn)多個(gè)平臺(tái)、多種渠道的交叉引流？如何做到在不同渠道的統(tǒng)一展現(xiàn)？從企業(yè)的內(nèi)部出發(fā)，產(chǎn)品與服務(wù)的互聯(lián)網(wǎng)也是標(biāo)配，如產(chǎn)品的APP化、智能化等，從而建立互聯(lián)網(wǎng)化的平臺(tái)與企業(yè)生態(tài)。在這些問(wèn)題上，京東云都能夠推出行之有效的解決方案。對(duì)于生態(tài)聯(lián)盟，他補(bǔ)充道：京東已經(jīng)向政府建言獻(xiàn)策，希望可以從更高層面構(gòu)建互聯(lián)網(wǎng)+聯(lián)盟，京東云也會(huì)積極加入，真正幫助更多企業(yè)走向“互聯(lián)網(wǎng)+”。
“京東將以公有云、私有云和混合云的形式，把這些成熟的云計(jì)算、大數(shù)據(jù)和基礎(chǔ)技術(shù)將對(duì)外開(kāi)放，為企業(yè)、政府、科研機(jī)構(gòu)提供云服務(wù)。” 京東云電商云事業(yè)部總經(jīng)理任成元認(rèn)為這是京東云的互聯(lián)網(wǎng)+戰(zhàn)略的實(shí)際意義和價(jià)值所在。
值得注意的是，京東基礎(chǔ)云由私有云和公有云兩部分組成，而“京東私有云和公有云是同一套技術(shù)同一個(gè)平臺(tái)同一班人馬做的。”京東私有云支撐京東集團(tuán)各個(gè)信息系統(tǒng)。云存儲(chǔ)系統(tǒng)穩(wěn)定支持了主站商品圖片、訂單、物流等200多個(gè)系統(tǒng)的運(yùn)行，京東私有云可以實(shí)現(xiàn)對(duì)流控、CPU、I/O等資源細(xì)粒度的精準(zhǔn)控制和自動(dòng)伸縮。在系統(tǒng)運(yùn)行方面，利用彈性計(jì)算云，服務(wù)器總體使用率提高十倍，網(wǎng)絡(luò)訪問(wèn)量平均成本同比下降60%，運(yùn)維自動(dòng)化率也達(dá)到了90%以上。京東公有云服務(wù)中的云主機(jī)服務(wù)、對(duì)象存儲(chǔ)服務(wù)（云存儲(chǔ)）通過(guò)了云服務(wù)可信性的權(quán)威認(rèn)證體系，并獲得了可信云年度電商云服務(wù)獎(jiǎng)。
而從京東云產(chǎn)業(yè)鏈服務(wù)中可以看出，京東云在IaaS、PaaS和部分SaaS已經(jīng)完成布局。舉例來(lái)看，京東云可以從銷售信息、用戶行為、供應(yīng)鏈效率、客戶滿意度和財(cái)務(wù)數(shù)據(jù)上進(jìn)行數(shù)據(jù)采集、挖掘以及可視化分析，為用戶提供京東級(jí)數(shù)據(jù)分析服務(wù)能力，一站式滿足企業(yè)數(shù)據(jù)分析的訴求。“”
對(duì)于近期業(yè)內(nèi)所關(guān)注的安全問(wèn)題，京東云首席架構(gòu)師楊海明表示：“京東網(wǎng)站、京東金融、京東到家等每天受到很多攻多，所以也積累了各個(gè)方面的安全防護(hù)經(jīng)驗(yàn)。比如網(wǎng)絡(luò)二層、三層、應(yīng)用層的安全防護(hù)。這些經(jīng)驗(yàn)的都會(huì)逐步通過(guò)京東基礎(chǔ)云安全服務(wù)產(chǎn)品來(lái)輸出。未來(lái)，我們是開(kāi)放的生態(tài)系統(tǒng)，也歡迎更多SaaS安全的來(lái)合作”。京東云首席數(shù)據(jù)架構(gòu)師杜宇甫也表示：“數(shù)據(jù)服務(wù)有不同安全機(jī)制，包括授權(quán)、身份認(rèn)證、各方向上安全使用等級(jí)劃分等，而后續(xù)，還會(huì)隨著需求的變化，提供更多數(shù)據(jù)防護(hù)。”
而由于絕大多數(shù)京東集團(tuán)的業(yè)務(wù)都已在京東云平臺(tái)上，面臨即將到來(lái)的電商雙十一大考，何剛感到壓力很大。“自營(yíng)式電商，決定了我們采購(gòu)、銷售、交易、物流、服務(wù)等都是自己來(lái)做，上千套系統(tǒng)在京東云上，業(yè)務(wù)極為復(fù)雜。所以我們備戰(zhàn)壓力很大，但相信自己不會(huì)出一點(diǎn)事，也必須如此。”
