【中國智能制造網(wǎng) 智造快訊】近年內(nèi)，隨著越來越多的設(shè)備接入互聯(lián)網(wǎng)，當下一年所產(chǎn)生的數(shù)據(jù)往往是以往數(shù)年的總和。而據(jù)Global CloudIndex預(yù)計，截止至2020年互聯(lián)設(shè)備數(shù)量將達到500億，眾多爆發(fā)式增長的設(shè)備預(yù)計在2017年便會產(chǎn)生高達7.7ZB的互聯(lián)網(wǎng)數(shù)據(jù)。　　
　　業(yè)務(wù)需求刺激下，大數(shù)據(jù)生態(tài)繁花似錦
　　
　　近年內(nèi)，隨著越來越多的設(shè)備接入互聯(lián)網(wǎng)，當下一年所產(chǎn)生的數(shù)據(jù)往往是以往數(shù)年的總和。而據(jù)GlobalCloudIndex預(yù)計，截止至2020年互聯(lián)設(shè)備數(shù)量將達到500億，眾多爆發(fā)式增長的設(shè)備預(yù)計在2017年便會產(chǎn)生高達7.7ZB的互聯(lián)網(wǎng)數(shù)據(jù)。在這個大背景下，各個機構(gòu)都積累了足夠多的數(shù)據(jù)，從而對數(shù)據(jù)進行分析并產(chǎn)生指導(dǎo)實踐的見解也成為了企業(yè)提高競爭力的迫切需求。在這個需求刺激下，開源大數(shù)據(jù)技術(shù)生態(tài)圈得到了飛速發(fā)展——在數(shù)據(jù)的整個生命周期中，從收集到處理，一直到數(shù)據(jù)可視化和儲存，各種開源技術(shù)框架林立。
　　
　　在開源大數(shù)據(jù)處理上，出于對成本和數(shù)據(jù)量的考慮，橫向擴展已經(jīng)必不可少，因此在這個領(lǐng)域涌現(xiàn)出大量的集群計算框架，其中大家首先想到的就是Hadoop。Hadoop天生高貴，由原雅虎工程師DougCutting在Google論文的啟發(fā)下建立，也是時下生產(chǎn)環(huán)境部署多的計算框架。然而，隨著內(nèi)存成本的降低和對不同處理類型需求的增加，缺乏對內(nèi)存有效利用及資源調(diào)度粒度的不夠，業(yè)內(nèi)涌現(xiàn)出大量的計算框架并占據(jù)一席之地，其中備受關(guān)注的包括ApacheSpark、ApacheFlink、ApacheStorm/JStorm等，整個大數(shù)據(jù)生態(tài)繁華似錦。
　　
　　開源IaaS發(fā)展，從百花齊放到一家獨大
　　
　　如上文所述，隨著接入互聯(lián)網(wǎng)的設(shè)備增多，企業(yè)IT基礎(chǔ)設(shè)施往往需要承受以往數(shù)倍的壓力，從而對原有的資源組織方式提出了嚴峻的挑戰(zhàn)。在這個前提下，云計算得以快速發(fā)展并在各行各業(yè)落地，更成為許多創(chuàng)業(yè)公司的立足之本。而作為云計算的一種重要形式，IaaS服務(wù)有各種開源和商業(yè)云平臺方案，作為當前成功的云計算平臺，AWS更是吸引了眾多的關(guān)注和模仿，如果說云計算發(fā)展到如今的火爆，除了IT技術(shù)的發(fā)展趨勢，更重要的是背后云計算廠商的大力支持和推廣。我們早聽到IaaS概念可以追溯到1983年，一家在現(xiàn)在看來非常厲害的公司SunMicrosystems就提出了“網(wǎng)絡(luò)是電腦”的概念，但是由于概念太超前，在當時并沒有引起重視。
　　
　　隨著Amazon推出其彈性云計算，并在IaaS領(lǐng)域大獲成功，Google、微軟、VMware、IBM等IT巨頭們大舉跟進，紛紛涉足云計算領(lǐng)域，云計算的熱潮洶涌而至。在這期間，開源IaaS領(lǐng)域發(fā)展同樣迅猛，從早的Eucalyptus、OpenNebula、CloudStack等到我們熟知的OpenStack，百花齊放，百家爭鳴，一時云計算領(lǐng)域熱鬧非凡，當然，隨著眾多大型廠商的支持、社區(qū)的壯大以及生態(tài)的不斷完善，OpenStack如今大放異彩，開始逐漸占據(jù)主導(dǎo)。不是說OpenStack現(xiàn)在無缺，只是在當下的開源IaaS領(lǐng)域，OpenStack已經(jīng)毫無爭議的成為受關(guān)注的云計算技術(shù)，并逐漸成為開源IaaS領(lǐng)域的代名詞。
　　
　　容器技術(shù)異軍突起，從技術(shù)演進到標準、生態(tài)之爭
　　
　　Docker，時下火的容器技術(shù)，從誕生到進軍生產(chǎn)環(huán)境，每一步的技術(shù)演進都受到了巨大的關(guān)注。其實，談及容器技術(shù)，其實Docker并非首創(chuàng)，早在十數(shù)年前，容器技術(shù)便已有雛形，但是以SolomonHykes為首的一幫工程師敏銳的發(fā)現(xiàn)了容器技術(shù)在云計算領(lǐng)域的巨大潛力，隨后迅速技術(shù)轉(zhuǎn)型，開始投向容器技術(shù)并且從一開始就走開源路線，這位身上流著美國與法國的血統(tǒng)，喜歡網(wǎng)咖打電動，酷愛摩托車的年輕人開始了一段非凡的浪漫之旅。
　　
　　無論是版本的迭代還是進軍生產(chǎn)環(huán)境，Docker這三年來的發(fā)展可以說是如魚得水，當然，期間也受到過質(zhì)疑，比如CoreOS與Docker的標準之爭就在容器圈引起了不大不小的轟動，后以Solomon和CoreOS的創(chuàng)始人AlexPolvi握手言和告終。之后隨著Docker版本的更新，在網(wǎng)絡(luò)和安全、存儲等領(lǐng)域的短板被逐漸補足之后，Docker的集群能力得以完善。
　　
　　容器引擎領(lǐng)域，雖說有CoreOS團隊開源的rkt項目，但是和Docker相比，在用戶以及社區(qū)活躍度方面都有很大差距。容器的編排，可以說在目前Docker領(lǐng)域受到的關(guān)注度，從Mesos到Kubernetes，圍繞兩種技術(shù)的編排之爭超乎想象，由于背后都有大批的廠商支持，短期內(nèi)，這兩種技術(shù)都將得到迅速的發(fā)展，某一方不會形成壓倒性優(yōu)勢，另外，從Docker公司的角度，背后的動作也有對編排的考量，綜述所述，容器生態(tài)中，圍繞Docker的生態(tài)之爭才剛剛開始。
　　
　　析開源云計算&大數(shù)據(jù)技術(shù)新實踐
　　
　　Docker短板補足，生產(chǎn)級實踐備受關(guān)注
　　
　　如上文所述，在Docker版本的更新過程中，自身的一些技術(shù)缺陷得到了彌補，Docker在安全、存儲以及網(wǎng)絡(luò)領(lǐng)域的短板得到逐步的解決，Docker進軍生產(chǎn)環(huán)境已經(jīng)成為大勢所趨。國外，在Docker應(yīng)用領(lǐng)域有著比較先進的經(jīng)驗。國內(nèi)目前真正將Docker應(yīng)用在生產(chǎn)領(lǐng)域的很少，其中應(yīng)用在核心業(yè)務(wù)的就更少，Docker從誕生到現(xiàn)在，已經(jīng)3年時間，如果繼續(xù)炒作Docker的優(yōu)越已經(jīng)毫無意義，當下，們?yōu)殛P(guān)心的是如何讓Docker真正落地，如何在生產(chǎn)環(huán)境中使用Docker，急需這個領(lǐng)域有一些個吃螃蟹的企業(yè)出來分享他們的經(jīng)驗和教訓(xùn)。
　　
　　為此，2016Container峰會聚焦生產(chǎn)級實踐，邀請了在金融、教育、制造、證券等領(lǐng)域已經(jīng)應(yīng)用Docker的企業(yè)技術(shù)負責(zé)人到場，給我們談?wù)勊麄冊谏a(chǎn)環(huán)境中是如何使用Docker的，大規(guī)模部署Docker的經(jīng)驗和趟過的坑。比如我們請到了民生銀行架構(gòu)管理中心副主任周越博帶來《Docker助力互聯(lián)網(wǎng)金融新架構(gòu)》，長安汽車分布式技術(shù)架構(gòu)室室主任黃俊帶來《容器化技術(shù)在長安汽車中的實踐》，廣發(fā)證券信息技術(shù)部資深架構(gòu)師、交易云技術(shù)研發(fā)團隊負責(zé)人楊濤帶來的《廣發(fā)證券基于大規(guī)模docker容器集群的OpenTrading證券交易云實踐之路》，另外，哈有永信至誠科技股份有限公司副總裁帶來的《CloudStack Docker構(gòu)建云端信息安全實驗場》。
　　
　　OpenStack式微?如何借勢Docker
　　
　　無可否認，Docker的發(fā)展熱度在一定程度上掩蓋了OpenStack的光芒，但是作為開源IaaS領(lǐng)域的平臺，IaaS如何和Docker和諧發(fā)展，或者如何借勢Docker彌補OpenStack在技術(shù)領(lǐng)域的短板，已經(jīng)成為很多關(guān)注的焦點。另外，上屆的OpenStack技術(shù)峰會，我們邀請到IBM云計算架構(gòu)師劉光亞分享了《深度解析Docker和OpenStack系統(tǒng)集成》收到了眾多參會者的廣泛關(guān)注，今年OpenStack技術(shù)峰會，我們同樣邀請到九州云OpenStack開發(fā)工程師張雷為大家分享如何基于Docker部署升級OpenStack，此外，對于已經(jīng)部署了OpenStack基礎(chǔ)服務(wù)的用戶而言，如何大化地發(fā)揮底層服務(wù)的能力、優(yōu)化資源使用，同時提升用戶體驗，我們邀請到IBM研究員，OpenStack Senlin項目組長、Heat項目的Core滕啟明博士來為我們分享如何通過編程充分發(fā)揮OpenStack云的能力。值得一提的是，對于OpenStack在企業(yè)的實踐，我們也邀請到中國移動，中國銀聯(lián)、國家電網(wǎng)、華為、ebay、順豐快遞等工程師，分享他們在OpenStack實踐方面的感悟。
　　
　　Hadoop老矣?時下開源大數(shù)據(jù)生態(tài)解讀
　　
　　如前文所述，在海量數(shù)據(jù)處理上，橫向擴展已毋庸置疑。而在這個領(lǐng)域，由Hadoop2.0中誕生的YARN無疑為耀眼，也是時下生產(chǎn)環(huán)境部署為廣泛的開源框架。在本屆CCTC2016上，華為印研Hadoop工程團隊架構(gòu)師、Hadoop Committer Naganarasimha Garla將從技術(shù)角度解析YARN的異構(gòu)實現(xiàn)，而Hulu大數(shù)據(jù)架構(gòu)組負責(zé)人董西成將分享YARN在生產(chǎn)環(huán)境中的異構(gòu)應(yīng)用與實踐。
　　
　　談到開源海量數(shù)據(jù)處理，行業(yè)內(nèi)首先落地的無疑是批量計算，而在這方面，MapReduce無疑是鼻祖，也是時下生產(chǎn)環(huán)境部署多的計算框架。然而正如上文所述，缺少對內(nèi)存的有效利用和業(yè)務(wù)對不同類型計算的需求，效率比較低的MapReduce同樣面臨著大量競爭者，其中兩個備受關(guān)注的就是Spark和Flink。因此，在CCTC2016上，主辦方特設(shè)置了2016中國Spark技術(shù)峰會，不僅有3位Apache Spark Committer RamSriharsha、連城、范文臣為大家解析Spark2.0，來自Intel、Hortonworks、Elastic、騰訊、新浪微博、Admaster、MediaV等國內(nèi)外機構(gòu)的近十位專家將帶來新的Spark實踐分享，詳情可以看筆者之前的峰會解析。而在Flink方面，F(xiàn)link活躍貢獻者，萬達金融李呈祥將為大家分享名為“Apache Flink:Streamengine beyond Batch”的議題。
　　
　　此外，基于大量用戶的生產(chǎn)歡迎使用，Hadoop同樣亦在飛速進步，就比如說之前一直由HDF和HBase的存儲層已面臨Kudu(Cloudera開源)的強力挑戰(zhàn)，當然，滿足業(yè)務(wù)需求，生產(chǎn)環(huán)境使用是大家所追求的共同目的。