今天跟大家講講云計算、大數(shù)據(jù)和人工智能。這三個詞現(xiàn)在非?；穑⑶宜鼈冎g好像互相有關(guān)系。                                                                                                                                                                                                                                                                

一般談云計算的時候會提到大數(shù)據(jù)、談人工智能的時候會提大數(shù)據(jù)、談人工智能的時候會提云計算……感覺三者之間相輔相成又不可分割。

 

但如果是非技術(shù)的人員，就可能比較難理解這三者之間的相互關(guān)系，所以有必要解釋一下。

 

云計算最初的目標(biāo)

 

我們首先來說云計算。云計算最初的目標(biāo)是對資源的管理，管理的主要是計算資源、網(wǎng)絡(luò)資源、存儲資源三個方面。

管數(shù)據(jù)中心就像配電腦

 

什么叫計算、網(wǎng)絡(luò)、存儲資源？

 

比如你要買臺筆記本電腦，是不是要關(guān)心這臺電腦是什么樣的 CPU？多大的內(nèi)存？這兩個就被我們稱為計算資源。

 

這臺電腦要上網(wǎng)，就需要有個可以插網(wǎng)線的網(wǎng)口，或者有可以連接我們家路由器的無線網(wǎng)卡。

 

您家也需要到運營商比如聯(lián)通、移動或者電信開通一個網(wǎng)絡(luò)，比如 100M 的帶寬。然后會有師傅弄一根網(wǎng)線到您家來，師傅可能會幫您將您的路由器和他們公司的網(wǎng)絡(luò)連接配置好。

 

這樣您家的所有的電腦、手機、平板就都可以通過您的路由器上網(wǎng)了。這就是網(wǎng)絡(luò)資源。

 

您可能還會問硬盤多大？過去的硬盤都很小，大小如 10G 之類的；后來即使 500G、1T、2T 的硬盤也不新鮮了。(1T 是 1000G)，這就是存儲資源。

 

對于一臺電腦是這個樣子的，對于一個數(shù)據(jù)中心也是同樣的。想象你有一個非常非常大的機房，里面堆了很多的服務(wù)器，這些服務(wù)器也是有 CPU、內(nèi)存、硬盤的，也是通過類似路由器的設(shè)備上網(wǎng)的。

 

這時的問題就是：運營數(shù)據(jù)中心的人是怎么把這些設(shè)備統(tǒng)一的管理起來的呢？

 

靈活就是想啥時要都有，想要多少都行

 

管理的目標(biāo)就是要達(dá)到兩個方面的靈活性。具體哪兩個方面呢？

 

舉個例子來理解：比如有個人需要一臺很小的電腦，只有一個 CPU、1G 內(nèi)存、10G 的硬盤、一兆的帶寬，你能給他嗎？

 

像這么小規(guī)格的電腦，現(xiàn)在隨便一個筆記本電腦都比這個配置強了，家里隨便拉一個寬帶都要 100M。然而如果去一個云計算的平臺上，他想要這個資源時，只要一點就有了。

 

這種情況下它就能達(dá)到兩個方面的靈活性：

·         時間靈活性：想什么時候要就什么時候要，需要的時候一點就出來了。

·         空間靈活性：想要多少就有多少。需要一個空間很小的電腦，可以滿足；需要一個特別大的空間例如云盤，云盤給每個人分配的空間動不動就很大很大，隨時上傳隨時有空間，永遠(yuǎn)用不完，也是可以滿足的。

 

空間靈活性和時間靈活性，即我們常說的云計算的彈性。而解決這個彈性的問題，經(jīng)歷了漫長時間的發(fā)展。

 

物理設(shè)備不靈活

 

第一個階段是物理設(shè)備時期。這個時期客戶需要一臺電腦，我們就買一臺放在數(shù)據(jù)中心里。

 

物理設(shè)備當(dāng)然是越來越牛：

·         例如服務(wù)器，內(nèi)存動不動就是百 G 內(nèi)存。

·         例如網(wǎng)絡(luò)設(shè)備，一個端口的帶寬就能有幾十 G 甚至上百 G。

·         例如存儲，在數(shù)據(jù)中心至少是 PB 級別的(一個 P 是 1000 個 T，一個 T 是 1000 個 G)。

 

然而物理設(shè)備不能做到很好的靈活性：

·         首先是它缺乏時間靈活性。不能夠達(dá)到想什么時候要就什么時候要。比如買臺服務(wù)器、買個電腦，都要有采購的時間。

如果突然用戶告訴某個云廠商，說想要開臺電腦，使用物理服務(wù)器，當(dāng)時去采購就很難。與供應(yīng)商關(guān)系好的可能需要一個星期，與供應(yīng)商關(guān)系一般的就可能需要采購一個月。

用戶等了很久電腦才到位，這時用戶還要登錄上去慢慢開始部署自己的應(yīng)用。時間靈活性非常差。

·         其次是它的空間靈活性也不行。例如上述的用戶需要一個很小很小的電腦，但現(xiàn)在哪還有這么小型號的電腦？不能為了滿足用戶只要一個 G 的內(nèi)存、80G 硬盤的，就去買一個這么小的機器。

但是如果買一個大的，又會因為電腦大，需要向用戶多收錢，可用戶需要用的只有那么小一點，所以多付錢就很冤。

 

虛擬化靈活多了

 

有人就想辦法了。第一個辦法就是虛擬化。用戶不是只要一個很小的電腦么？

 

數(shù)據(jù)中心的物理設(shè)備都很強大，我可以從物理的 CPU、內(nèi)存、硬盤中虛擬出一小塊來給客戶，同時也可以虛擬出一小塊來給其他客戶。

 

每個客戶只能看到自己的那一小塊，但其實每個客戶用的是整個大的設(shè)備上的一小塊。

 

虛擬化的技術(shù)使得不同客戶的電腦看起來是隔離的。也就是我看著好像這塊盤就是我的，你看著這塊盤就是你的，但實際情況可能我的這個 10G 和你的這個 10G 是落在同樣一個很大很大的存儲上。

 

而且如果事先物理設(shè)備都準(zhǔn)備好，虛擬化軟件虛擬出一個電腦是非?？斓?，基本上幾分鐘就能解決。所以在任何一個云上要創(chuàng)建一臺電腦，一點幾分鐘就出來了，就是這個道理。

 

這樣空間靈活性和時間靈活性就基本解決了。

 

虛擬世界的賺錢與情懷

 

在虛擬化階段，最牛的公司是 VMware。它是實現(xiàn)虛擬化技術(shù)比較早的一家公司，可以實現(xiàn)計算、網(wǎng)絡(luò)、存儲的虛擬化。

 

這家公司很牛，性能做得非常好，虛擬化軟件賣得也非常好，賺了好多的錢，后來讓 EMC(世界五百強，存儲廠商第一品牌)給收購了。

 

但這個世界上還是有很多有情懷的人的，尤其是程序員里面。有情懷的人喜歡做什么事情？開源。

 

這個世界上很多軟件都是有閉源就有開源，源就是源代碼。也就是說，某個軟件做的好，所有人都愛用，但這個軟件的代碼被我封閉起來，只有我公司知道，其他人不知道。

 

如果其他人想用這個軟件，就要向我付錢，這就叫閉源。但世界上總有一些大?？床粦T錢都讓一家賺了去的情況。大牛們覺得，這個技術(shù)你會我也會；你能開發(fā)出來，我也能。

 

我開發(fā)出來就是不收錢，把代碼拿出來分享給大家，全世界誰用都可以，所有的人都可以享受到好處，這個叫做開源。

 

比如最近的蒂姆·伯納斯·李就是個非常有情懷的人。2017 年，他因“發(fā)明萬維網(wǎng)、第一個瀏覽器和使萬維網(wǎng)得以擴展的基本協(xié)議和算法”而獲得 2016 年度的圖靈獎。

 

圖靈獎就是計算機界的諾貝爾獎。然而他最令人敬佩的是，他將萬維網(wǎng)，也就是我們常見的 WWW 技術(shù)無償貢獻(xiàn)給全世界免費使用。

 

我們現(xiàn)在在網(wǎng)上的所有行為都應(yīng)該感謝他的功勞，如果他將這個技術(shù)拿來收錢，應(yīng)該和比爾蓋茨差不多有錢。

 

開源和閉源的例子有很多：例如在閉源的世界里有 Windows，大家用 Windows 都得給微軟付錢；開源的世界里面就出現(xiàn)了 Linux。

 

比爾蓋茨靠 Windows、Office 這些閉源的軟件賺了很多錢，稱為世界首富，就有大牛開發(fā)了另外一種操作系統(tǒng) Linux。

 

很多人可能沒有聽說過 Linux，很多后臺的服務(wù)器上跑的程序都是 Linux 上的，比如大家享受雙十一，無論是淘寶、京東、考拉……支撐雙十一搶購的系統(tǒng)都是跑在 Linux 上的。

 

再如有 Apple 就有安卓。Apple 市值很高，但是蘋果系統(tǒng)的代碼我們是看不到的，于是就有大牛寫了安卓手機操作系統(tǒng)。

 

所以大家可以看到幾乎所有的其他手機廠商，里面都裝安卓系統(tǒng)。原因就是蘋果系統(tǒng)不開源，而安卓系統(tǒng)大家都可以用。

 

在虛擬化軟件也一樣，有了 VMware，這個軟件非常貴。那就有大牛寫了兩個開源的虛擬化軟件，一個叫做 Xen，一個叫做 KVM，如果不做技術(shù)的，可以不用管這兩個名字，但是后面還是會提到。

 

虛擬化的半自動和云計算的全自動

 

要說虛擬化軟件解決了靈活性問題，其實并不全對。因為虛擬化軟件一般創(chuàng)建一臺虛擬的電腦，是需要人工指定這臺虛擬電腦放在哪臺物理機上的。

 

這一過程可能還需要比較復(fù)雜的人工配置。所以使用 VMware 的虛擬化軟件，需要考一個很牛的證書，而能拿到這個證書的人，薪資是相當(dāng)高，也可見其復(fù)雜程度。

 

所以僅僅憑虛擬化軟件所能管理的物理機的集群規(guī)模都不是特別大，一般在十幾臺、幾十臺、最多百臺這么一個規(guī)模。

 

這一方面會影響時間靈活性：雖然虛擬出一臺電腦的時間很短，但是隨著集群規(guī)模的擴大，人工配置的過程越來越復(fù)雜，越來越耗時。

 

另一方面也影響空間靈活性：當(dāng)用戶數(shù)量多時，這點集群規(guī)模，還遠(yuǎn)達(dá)不到想要多少要多少的程度，很可能這點資源很快就用完了，還得去采購。

 

所以隨著集群的規(guī)模越來越大，基本都是千臺起步，動輒上萬臺、甚至幾十上百萬臺。如果去查一下 BAT，包括網(wǎng)易、谷歌、亞馬遜，服務(wù)器數(shù)目都大的嚇人。

 

這么多機器要靠人去選一個位置放這臺虛擬化的電腦并做相應(yīng)的配置，幾乎是不可能的事情，還是需要機器去做這個事情。

 

人們發(fā)明了各種各樣的算法來做這個事情，算法的名字叫做調(diào)度(Scheduler)。

 

通俗一點說，就是有一個調(diào)度中心，幾千臺機器都在一個池子里面，無論用戶需要多少 CPU、內(nèi)存、硬盤的虛擬電腦，調(diào)度中心會自動在大池子里面找一個能夠滿足用戶需求的地方，把虛擬電腦啟動起來做好配置，用戶就直接能用了。

 

這個階段我們稱為池化或者云化。到了這個階段，才可以稱為云計算，在這之前都只能叫虛擬化。

 

云計算的私有與公有

 

云計算大致分兩種：一個是私有云，一個是公有云，還有人把私有云和公有云連接起來稱為混合云，這里暫且不說這個。

·         私有云：把虛擬化和云化的這套軟件部署在別人的數(shù)據(jù)中心里面。使用私有云的用戶往往很有錢，自己買地建機房、自己買服務(wù)器，然后讓云廠商部署在自己這里。

VMware 后來除了虛擬化，也推出了云計算的產(chǎn)品，并且在私有云市場賺的盆滿缽滿。

·         公有云：把虛擬化和云化軟件部署在云廠商自己數(shù)據(jù)中心里面的，用戶不需要很大的投入，只要注冊一個賬號，就能在一個網(wǎng)頁上點一下創(chuàng)建一臺虛擬電腦。

例如 AWS 即亞馬遜的公有云；國內(nèi)的阿里云、騰訊云、網(wǎng)易云等。

 

亞馬遜為什么要做公有云呢？我們知道亞馬遜原來是國外比較大的一個電商，它做電商時也肯定會遇到類似雙十一的場景：在某一個時刻大家都沖上來買東西。

 

當(dāng)大家都沖上買東西時，就特別需要云的時間靈活性和空間靈活性。因為它不能時刻準(zhǔn)備好所有的資源，那樣太浪費了。但也不能什么都不準(zhǔn)備，看著雙十一這么多用戶想買東西登不上去。

 

所以需要雙十一時，就創(chuàng)建一大批虛擬電腦來支撐電商應(yīng)用，過了雙十一再把這些資源都釋放掉去干別的。因此亞馬遜是需要一個云平臺的。

 

然而商用的虛擬化軟件實在是太貴了，亞馬遜總不能把自己在電商賺的錢全部給了虛擬化廠商。

 

于是亞馬遜基于開源的虛擬化技術(shù)，如上所述的 Xen 或者 KVM，開發(fā)了一套自己的云化軟件。沒想到亞馬遜后來電商越做越牛，云平臺也越做越牛。

 

由于它的云平臺需要支撐自己的電商應(yīng)用；而傳統(tǒng)的云計算廠商多為 IT 廠商出身，幾乎沒有自己的應(yīng)用，所以亞馬遜的云平臺對應(yīng)用更加友好，迅速發(fā)展成為云計算的第一品牌，賺了很多錢。

 

在亞馬遜公布其云計算平臺財報之前，人們都猜測，亞馬遜電商賺錢，云也賺錢嗎？后來一公布財報，發(fā)現(xiàn)不是一般的賺錢。僅僅去年，亞馬遜 AWS 年營收達(dá) 122 億美元，運營利潤 31 億美元。

 

云計算的賺錢與情懷

 

公有云的第一名亞馬遜過得很爽，第二名 Rackspace 過得就一般了。沒辦法，這就是互聯(lián)網(wǎng)行業(yè)的殘酷性，多是贏者通吃的模式。所以第二名如果不是云計算行業(yè)的，很多人可能都沒聽過了。

 

第二名就想，我干不過老大怎么辦呢？開源吧。如上所述，亞馬遜雖然使用了開源的虛擬化技術(shù)，但云化的代碼是閉源的。

 

很多想做又做不了云化平臺的公司，只能眼巴巴的看著亞馬遜掙大錢。Rackspace 把源代碼一公開，整個行業(yè)就可以一起把這個平臺越做越好，兄弟們大家一起上，和老大拼了。

于是 Rackspace 和美國航空航天局合作創(chuàng)辦了開源軟件 OpenStack，如上圖所示 OpenStack 的架構(gòu)圖，不是云計算行業(yè)的不用弄懂這個圖。

 

但能夠看到三個關(guān)鍵字：Compute 計算、Networking 網(wǎng)絡(luò)、Storage 存儲。還是一個計算、網(wǎng)絡(luò)、存儲的云化管理平臺。

 

當(dāng)然第二名的技術(shù)也是非常棒的，有了 OpenStack 之后，果真像 Rackspace 想的一樣，所有想做云的大企業(yè)都瘋了，你能想象到的所有如雷貫耳的大型 IT 企業(yè)：IBM、惠普、戴爾、華為、聯(lián)想等都瘋了。

 

原來云平臺大家都想做，看著亞馬遜和 VMware 賺了這么多錢，眼巴巴看著沒辦法，想自己做一個好像難度還挺大。

 

現(xiàn)在好了，有了這樣一個開源的云平臺 OpenStack，所有的 IT 廠商都加入到這個社區(qū)中來，對這個云平臺進(jìn)行貢獻(xiàn)，包裝成自己的產(chǎn)品，連同自己的硬件設(shè)備一起賣。

 

有的做了私有云，有的做了公有云，OpenStack 已經(jīng)成為開源云平臺的事實標(biāo)準(zhǔn)。

 

IaaS，資源層面的靈活性

 

隨著 OpenStack 的技術(shù)越來越成熟，可以管理的規(guī)模也越來越大，并且可以有多個 OpenStack 集群部署多套。

 

比如北京部署一套、杭州部署兩套、廣州部署一套，然后進(jìn)行統(tǒng)一的管理。這樣整個規(guī)模就更大了。

 

在這個規(guī)模下，對于普通用戶的感知來講，基本能夠做到想什么時候要就什么時候要，想要多少就要多少。

 

還是拿云盤舉例子，每個用戶云盤都分配了 5T 甚至更大的空間，如果有 1 億人，那加起來空間多大啊。

 

其實背后的機制是這樣的：分配你的空間，你可能只用了其中很少一點，比如說它分配給你了 5 個 T，這么大的空間僅僅是你看到的，而不是真的就給你了。

 

你其實只用了 50 個 G，則真實給你的就是 50 個 G，隨著你文件的不斷上傳，分給你的空間會越來越多。

 

當(dāng)大家都上傳，云平臺發(fā)現(xiàn)快滿了的時候(例如用了 70%)，會采購更多的服務(wù)器，擴充背后的資源，這個對用戶是透明的、看不到的。

 

從感覺上來講，就實現(xiàn)了云計算的彈性。其實有點像銀行，給儲戶的感覺是什么時候取錢都有，只要不同時擠兌，銀行就不會垮。

 

總結(jié)

 

到了這個階段，云計算基本上實現(xiàn)了時間靈活性和空間靈活性；實現(xiàn)了計算、網(wǎng)絡(luò)、存儲資源的彈性。

 

計算、網(wǎng)絡(luò)、存儲我們常稱為基礎(chǔ)設(shè)施 Infranstracture, 因而這個階段的彈性稱為資源層面的彈性。

 

管理資源的云平臺，我們稱為基礎(chǔ)設(shè)施服務(wù)，也就是我們常聽到的 IaaS（Infranstracture As A Service）。

 

云計算不光管資源，也要管應(yīng)用

 

有了 IaaS，實現(xiàn)了資源層面的彈性就夠了嗎？顯然不是，還有應(yīng)用層面的彈性。

 

這里舉個例子：比如說實現(xiàn)一個電商的應(yīng)用，平時十臺機器就夠了，雙十一需要一百臺。你可能覺得很好辦啊，有了 IaaS，新創(chuàng)建九十臺機器就可以了啊。

 

但 90 臺機器創(chuàng)建出來是空的，電商應(yīng)用并沒有放上去，只能讓公司的運維人員一臺一臺的弄，需要很長時間才能安裝好的。

 

雖然資源層面實現(xiàn)了彈性，但沒有應(yīng)用層的彈性，依然靈活性是不夠的。有沒有方法解決這個問題呢？

 

人們在 IaaS 平臺之上又加了一層，用于管理資源以上的應(yīng)用彈性的問題，這一層通常稱為 PaaS（Platform As A Service）。

 

這一層往往比較難理解，大致分兩部分：一部分筆者稱為“你自己的應(yīng)用自動安裝”，一部分筆者稱為“通用的應(yīng)用不用安裝”。

·         自己的應(yīng)用自動安裝：比如電商應(yīng)用是你自己開發(fā)的，除了你自己，其他人是不知道怎么安裝的。

像電商應(yīng)用，安裝時需要配置支付寶或者微信的賬號，才能使別人在你的電商上買東西時，付的錢是打到你的賬戶里面的，除了你，誰也不知道。

所以安裝的過程平臺幫不了忙，但能夠幫你做得自動化，你需要做一些工作，將自己的配置信息融入到自動化的安裝過程中方可。

比如上面的例子，雙十一新創(chuàng)建出來的 90 臺機器是空的，如果能夠提供一個工具，能夠自動在這新的 90 臺機器上將電商應(yīng)用安裝好，就能夠?qū)崿F(xiàn)應(yīng)用層面的真正彈性。

例如 Puppet、Chef、Ansible、Cloud Foundary 都可以干這件事情，最新的容器技術(shù) Docker 能更好的干這件事情。

·         通用的應(yīng)用不用安裝：所謂通用的應(yīng)用，一般指一些復(fù)雜性比較高，但大家都在用的，例如數(shù)據(jù)庫。幾乎所有的應(yīng)用都會用數(shù)據(jù)庫，但數(shù)據(jù)庫軟件是標(biāo)準(zhǔn)的，雖然安裝和維護比較復(fù)雜，但無論誰安裝都是一樣。

這樣的應(yīng)用可以變成標(biāo)準(zhǔn)的 PaaS 層的應(yīng)用放在云平臺的界面上。當(dāng)用戶需要一個數(shù)據(jù)庫時，一點就出來了，用戶就可以直接用了。

有人問，既然誰安裝都一個樣，那我自己來好了，不需要花錢在云平臺上買。當(dāng)然不是，數(shù)據(jù)庫是一個非常難的東西，光 Oracle 這家公司，靠數(shù)據(jù)庫就能賺這么多錢。買 Oracle 也是要花很多錢的。

 

然而大多數(shù)云平臺會提供 MySQL 這樣的開源數(shù)據(jù)庫，又是開源，錢不需要花這么多了。

 

但維護這個數(shù)據(jù)庫，卻需要專門招一個很大的團隊，如果這個數(shù)據(jù)庫能夠優(yōu)化到能夠支撐雙十一，也不是一年兩年能夠搞定的。

 

比如您是一個做單車的，當(dāng)然沒必要招一個非常大的數(shù)據(jù)庫團隊來干這件事情，成本太高了，應(yīng)該交給云平臺來做這件事情。

 

專業(yè)的事情專業(yè)的人來做，云平臺專門養(yǎng)了幾百人維護這套系統(tǒng)，您只要專注于您的單車應(yīng)用就可以了。

 

要么是自動部署，要么是不用部署，總的來說就是應(yīng)用層你也要少操心，這就是 PaaS 層的重要作用。

雖說腳本的方式能夠解決自己的應(yīng)用的部署問題，然而不同的環(huán)境千差萬別，一個腳本往往在一個環(huán)境上運行正確，到另一個環(huán)境就不正確了。

 

而容器是能更好地解決這個問題。

容器是 Container，Container 另一個意思是集裝箱，其實容器的思想就是要變成軟件交付的集裝箱。集裝箱的特點：一是封裝，二是標(biāo)準(zhǔn)。

在沒有集裝箱的時代，假設(shè)將貨物從 A 運到 B，中間要經(jīng)過三個碼頭、換三次船。

 

每次都要將貨物卸下船來，擺得七零八落，然后搬上船重新整齊擺好。因此在沒有集裝箱時，每次換船，船員們都要在岸上待幾天才能走。

有了集裝箱以后，所有的貨物都打包在一起了，并且集裝箱的尺寸全部一致，所以每次換船時，一個箱子整體搬過去就行了，小時級別就能完成，船員再也不用上岸長時間耽擱了。

 

這是集裝箱“封裝”、“標(biāo)準(zhǔn)”兩大特點在生活中的應(yīng)用。

那么容器如何對應(yīng)用打包呢？還是要學(xué)習(xí)集裝箱。首先要有個封閉的環(huán)境，將貨物封裝起來，讓貨物之間互不干擾、互相隔離，這樣裝貨卸貨才方便。好在 Ubuntu 中的 LXC 技術(shù)早就能做到這一點。

 

封閉的環(huán)境主要使用了兩種技術(shù)：

·         看起來是隔離的技術(shù)，稱為  Namespace，也即每個 Namespace 中的應(yīng)用看到的是不同的 IP 地址、用戶空間、程號等。

·         用起來是隔離的技術(shù)，稱為 Cgroups，也即明明整臺機器有很多的  CPU、內(nèi)存，而一個應(yīng)用只能用其中的一部分。

 

所謂的鏡像，就是將你焊好集裝箱的那一刻，將集裝箱的狀態(tài)保存下來，就像孫悟空說：“定”，集裝箱里面就定在了那一刻，然后將這一刻的狀態(tài)保存成一系列文件。

 

這些文件的格式是標(biāo)準(zhǔn)的，誰看到這些文件都能還原當(dāng)時定住的那個時刻。將鏡像還原成運行時的過程（就是讀取鏡像文件，還原那個時刻的過程），就是容器運行的過程。

 

有了容器，使得 PaaS 層對于用戶自身應(yīng)用的自動部署變得快速而優(yōu)雅。

 

大數(shù)據(jù)擁抱云計算

 

在 PaaS 層中一個復(fù)雜的通用應(yīng)用就是大數(shù)據(jù)平臺。大數(shù)據(jù)是如何一步一步融入云計算的呢？