歡迎光臨
每天分享高質量文章

終於有人把雲計算、大資料和人工智慧講明白了!

導讀:雲計算、大資料和人工智慧,這三個東西現在非常火,並且它們之間好像互相有關係:一般談雲計算的時候會提到大資料、談人工智慧的時候會提大資料、談人工智慧的時候會提雲計算……感覺三者之間相輔相成又不可分割。但如果是非技術的人員,就可能比較難理解這三者之間的相互關係,所以有必要解釋一下。


01 雲計算最初的標的

我們首先來說雲計算。雲計算最初的標的是對資源的管理,管理的主要是計算資源、網絡資源、儲存資源三個方面。

1. 管資料中心就像配電腦

什麼叫計算、網絡、儲存資源?

比如你要買台筆記本電腦,是不是要關心這臺電腦是什麼樣的CPU?多大的記憶體?這兩個就被我們稱為計算資源

這臺電腦要上網,就需要有個可以插網線的網口,或者有可以連接我們家路由器的無線網卡。您家也需要到運營商比如聯通、移動或者電信開通一個網絡,比如100M的帶寬。然後會有師傅弄一根網線到您家來,師傅可能會幫您將您的路由器和他們公司的網絡連接配置好。這樣您家的所有的電腦、手機、平板就都可以通過您的路由器上網了。這就是網絡資源

您可能還會問硬碟多大?過去的硬碟都很小,大小如10G之類的;後來即使500G、1T、2T的硬碟也不新鮮了。(1T是1000G),這就是儲存資源

對於一臺電腦是這個樣子的,對於一個資料中心也是同樣的。想象你有一個非常非常大的機房,裡面堆了很多的服務器,這些服務器也是有CPU、記憶體、硬碟的,也是通過類似路由器的設備上網的。這時的問題就是:運營資料中心的人是怎麼把這些設備統一的管理起來的呢?

2. 靈活就是想啥時要都有,想要多少都行

管理的標的就是要達到兩個方面的靈活性。具體哪兩個方面呢?

舉個例子來理解:比如有個人需要一臺很小的電腦,只有一個CPU、1G記憶體、10G的硬碟、一兆的帶寬,你能給他嗎?像這種這麼小規格的電腦,現在隨便一個筆記本電腦都比這個配置強了,家裡隨便拉一個寬帶都要100M。然而如果去一個雲計算的平臺上,他要想要這個資源時,只要一點就有了。

這種情況下它就能達到兩個方面靈活性:

  • 時間靈活性:想什麼時候要就什麼時候要,需要的時候一點就出來了;

  • 空間靈活性:想要多少就有多少。需要一個太很小的電腦,可以滿足;需要一個特別大的空間例如雲盤,雲盤給每個人分配的空間動不動就很大很大,隨時上傳隨時有空間,永遠用不完,也是可以滿足的。

空間靈活性和時間靈活性,即我們常說的雲計算的彈性。而解決這個彈性的問題,經歷了漫長時間的發展。

3. 物理設備不靈活

第一個階段是物理設備時期。這個時期客戶需要一臺電腦,我們就買一臺放在資料中心裡。

物理設備當然是越來越牛,例如服務器,記憶體動不動就是百G記憶體;例如網絡設備,一個端口的帶寬就能有幾十G甚至上百G;例如儲存,在資料中心至少是PB級別的(一個P是1000個T,一個T是1000個G)。

然而物理設備不能做到很好的靈活性:

  • 首先是它缺乏時間靈活性。不能夠達到想什麼時候要就什麼時候要。比如買台服務器、買個電腦,都要有採購的時間。如果突然用戶告訴某個雲廠商,說想要開臺電腦,使用物理服務器,當時去採購就很難。與供應商關係好的可能需要一個星期,與供應商關係一般的就可能需要採購一個月。用戶等了很久電腦才到位,這時用戶還要登錄上去慢慢開始部署自己的應用。時間靈活性非常差。

  • 其次是它的空間靈活性也不行。例如上述的用戶需要一個很小很小的電腦,但現在哪還有這麼小型號的電腦?不能為了滿足用戶只要一個G的記憶體是80G硬碟的,就去買一個這麼小的機器。但是如果買一個大的,又會因為電腦大,需要向用戶多收錢,可用戶需要用的只有那麼小一點,所以多付錢就很冤。

4. 虛擬化靈活多了

有人就想辦法了。第一個辦法就是虛擬化。用戶不是只要一個很小的電腦麽?資料中心的物理設備都很強大,我可以從物理的CPU、記憶體、硬碟中虛擬出一小塊來給客戶,同時也可以虛擬出一小塊來給其他客戶。每個客戶只能看到自己的那一小塊,但其實每個客戶用的是整個大的設備上的一小塊。

虛擬化的技術使得不同客戶的電腦看起來是隔離的。也就是我看著好像這塊盤就是我的,你看著這塊盤就是你的,但實際情況可能我的這個10G和你的這個10G是落在同樣一個很大很大的儲存上。而且如果事先物理設備都準備好,虛擬化軟體虛擬出一個電腦是非常快的,基本上幾分鐘就能解決。所以在任何一個雲上要創建一臺電腦,一點幾分鐘就出來了,就是這個道理。

這樣空間靈活性和時間靈活性就基本解決了。

5. 虛擬世界的賺錢與情懷

在虛擬化階段,最牛的公司是VMware。它是實現虛擬化技術比較早的一家公司,可以實現計算、網絡、儲存的虛擬化。這家公司很牛,性能做得非常好,虛擬化軟體賣得也非常好,賺了好多的錢,後來讓EMC(世界五百強,儲存廠商第一品牌)給收購了。

但這個世界上還是有很多有情懷的人的,尤其是程式員裡面。有情懷的人喜歡做什麼事情?開源

這個世界上很多軟體都是有閉源就有開源,源就是原始碼。也就是說,某個軟體做的好,所有人都愛用,但這個軟體的代碼被我封閉起來,只有我公司知道,其他人不知道。如果其他人想用這個軟體,就要向我付錢,這就叫閉源。

但世界上總有一些大牛看不慣錢都讓一家賺了去的情況。大牛們覺得,這個技術你會我也會;你能開發出來,我也能。我開發出來就是不收錢,把代碼拿出來分享給大家,全世界誰用都可以,所有的人都可以享受到好處,這個叫做開源。

比如最近的蒂姆·伯納斯·李就是個非常有情懷的人。2017年,他因“發明萬維網、第一個瀏覽器和使萬維網得以擴展的基本協議和演算法”而獲得2016年度的圖靈獎。圖靈獎就是計算機界的諾貝爾獎。然而他最令人敬佩的是,他將萬維網,也就是我們常見的WWW技術無償貢獻給全世界免費使用。我們現在在網上的所有行為都應該感謝他的功勞,如果他將這個技術拿來收錢,應該和比爾蓋茨差不多有錢。

開源和閉源的例子有很多:

例如在閉源的世界里有Windows,大家用Windows都得給微軟付錢;開源的世界裡面就出現了Linux。比爾蓋茨靠Windows、Office這些閉源的軟體賺了很多錢,稱為世界首富,就有大牛開發了另外一種操作系統Linux。很多人可能沒有聽說過Linux,很多後臺的服務器上跑的程式都是Linux上的,比如大家享受雙十一,無論是淘寶、京東、考拉……支撐雙十一搶購的系統都是跑在Linux上的。

再如有Apple就有安卓。Apple市值很高,但是蘋果系統的代碼我們是看不到的。於是就有大牛寫了安卓手機操作系統。所以大家可以看到幾乎所有的其他手機廠商,裡面都裝安卓系統。原因就是蘋果系統不開源,而安卓系統大家都可以用。

在虛擬化軟體也一樣,有了VMware,這個軟體非常貴。那就有大牛寫了兩個開源的虛擬化軟體,一個叫做Xen,一個叫做KVM,如果不做技術的,可以不用管這兩個名字,但是後面還是會提到。

6. 虛擬化的半自動和雲計算的全自動

要說虛擬化軟體解決了靈活性問題,其實並不全對。因為虛擬化軟體一般創建一臺虛擬的電腦,是需要人工指定這台虛擬電腦放在哪台物理機上的。這一過程可能還需要比較複雜的人工配置。所以使用VMware的虛擬化軟體,需要考一個很牛的證書,而能拿到這個證書的人,薪資是相當高,也可見覆雜程度。

所以僅僅憑虛擬化軟體所能管理的物理機的集群規模都不是特別大,一般在十幾台、幾十臺、最多百台這麼一個規模。

這一方面會影響時間靈活性:雖然虛擬出一臺電腦的時間很短,但是隨著集群規模的擴大,人工配置的過程越來越複雜,越來越耗時。另一方面也影響空間靈活性:當用戶數量多時,這點集群規模,還遠達不到想要多少要多少的程度,很可能這點資源很快就用完了,還得去採購。

所以隨著集群的規模越來越大,基本都是千台起步,動輒上萬台、甚至幾十上百萬台。如果去查一下BAT,包括網易、谷歌、亞馬遜,服務器數目都大的嚇人。這麼多機器要靠人去選一個位置放這台虛擬化的電腦並做相應的配置,幾乎是不可能的事情,還是需要機器去做這個事情。

人們發明瞭各種各樣的演算法來做這個事情,演算法的名字叫做調度(Scheduler)。通俗一點說,就是有一個調度中心,幾千台機器都在一個池子裡面,無論用戶需要多少CPU、記憶體、硬碟的虛擬電腦,調度中心會自動在大池子裡面找一個能夠滿足用戶需求的地方,把虛擬電腦啟動起來做好配置,用戶就直接能用了。這個階段我們稱為池化或者雲化。到了這個階段,才可以稱為雲計算,在這之前都只能叫虛擬化。

7. 雲計算的私有與公有

雲計算大致分兩種:一個是私有雲,一個是公有雲,還有人把私有雲和公有雲連接起來稱為混合雲,這裡暫且不說這個。

  • 私有雲把虛擬化和雲化的這套軟體部署在別人的資料中心裡面。使用私有雲的用戶往往很有錢,自己買地建機房、自己買服務器,然後讓雲廠商部署在自己這裡。VMware後來除了虛擬化,也推出了雲計算的產品,並且在私有雲市場賺的盆滿缽滿。

  • 公有雲:把虛擬化和雲化軟體部署在雲廠商自己資料中心裡面的,用戶不需要很大的投入,只要註冊一個賬號,就能在一個網頁上點一下創建一臺虛擬電腦。例如AWS即亞馬遜的公有雲;例如國內的阿裡雲、騰訊雲、網易雲等。

亞馬遜為什麼要做公有雲呢?我們知道亞馬遜原來是國外比較大的一個電商,它做電商時也肯定會遇到類似雙十一的場景:在某一個時刻大家都衝上來買東西。當大家都衝上買東西時,就特別需要雲的時間靈活性和空間靈活性。因為它不能時刻準備好所有的資源,那樣太浪費了。但也不能什麼都不准備,看著雙十一這麼多用戶想買東西登不上去。所以需要雙十一時,就創建一大批虛擬電腦來支撐電商應用,過了雙十一再把這些資源都釋放掉去乾別的。因此亞馬遜是需要一個雲平臺的。

然而商用的虛擬化軟體實在是太貴了,亞馬遜總不能把自己在電商賺的錢全部給了虛擬化廠商。於是亞馬遜基於開源的虛擬化技術,如上所述的Xen或者KVM,開發了一套自己的雲化軟體。沒想到亞馬遜後來電商越做越牛,雲平臺也越做越牛。

由於它的雲平臺需要支撐自己的電商應用;而傳統的雲計算廠商多為IT廠商出身,幾乎沒有自己的應用,所以亞馬遜的雲平臺對應用更加友好,迅速發展成為雲計算的第一品牌,賺了很多錢。

在亞馬遜公佈其雲計算平臺財報之前,人們都猜測,亞馬遜電商賺錢,雲也賺錢嗎?後來一公佈財報,發現不是一般的賺錢。僅僅去年,亞馬遜AWS年營收達122億美元,運營利潤31億美元。

8. 雲計算的賺錢與情懷

公有雲的第一名亞馬遜過得很爽,第二名Rackspace過得就一般了。沒辦法,這就是互聯網行業的殘酷性,多是贏者通吃的樣式。所以第二名如果不是雲計算行業的,很多人可能都沒聽過了。

第二名就想,我乾不過老大怎麼辦呢?開源吧。如上所述,亞馬遜雖然使用了開源的虛擬化技術,但雲化的代碼是閉源的。很多想做又做不了雲化平臺的公司,只能眼巴巴的看著亞馬遜掙大錢。Rackspace把原始碼一公開,整個行業就可以一起把這個平臺越做越好,兄弟們大家一起上,和老大拼了。

於是Rackspace和美國航空航天局合作創辦了開源軟體OpenStack,如上圖所示OpenStack的架構圖,不是雲計算行業的不用弄懂這個圖,但能夠看到三個關鍵字:Compute計算、Networking網絡、Storage儲存。還是一個計算、網絡、儲存的雲化管理平臺。

當然第二名的技術也是非常棒的,有了OpenStack之後,果真像Rackspace想的一樣,所有想做雲的大企業都瘋了,你能想象到的所有如雷貫耳的大型IT企業:IBM、惠普、戴爾、華為、聯想等都瘋了。

原來雲平臺大家都想做,看著亞馬遜和VMware賺了這麼多錢,眼巴巴看著沒辦法,想自己做一個好像難度還挺大。現在好了,有了這樣一個開源的雲平臺OpenStack,所有的IT廠商都加入到這個社區中來,對這個雲平臺進行貢獻,包裝成自己的產品,連同自己的硬體設備一起賣。有的做了私有雲,有的做了公有雲,OpenStack已經成為開源雲平臺的事實標準。

9. IaaS, 資源層面的靈活性

隨著OpenStack的技術越來越成熟,可以管理的規模也越來越大,並且可以有多個OpenStack集群部署多套。比如北京部署一套、杭州部署兩套、廣州部署一套,然後進行統一的管理。這樣整個規模就更大了。

在這個規模下,對於普通用戶的感知來講,基本能夠做到想什麼時候要就什麼什麼要,想要多少就要多少。還是拿雲盤舉例子,每個用戶雲盤都分配了5T甚至更大的空間,如果有1億人,那加起來空間多大啊。

其實背後的機制是這樣的:分配你的空間,你可能只用了其中很少一點,比如說它分配給你了5個T,這麼大的空間僅僅是你看到的,而不是真的就給你了,你其實只用了50個G,則真實給你的就是50個G,隨著你檔案的不斷上傳,分給你的空間會越來越多。

當大家都上傳,雲平臺發現快滿了的時候(例如用了70%),會採購更多的服務器,擴充背後的資源,這個對用戶是透明的、看不到的。從感覺上來講,就實現了雲計算的彈性。其實有點像銀行,給儲戶的感覺是什麼時候取錢都有,只要不同時擠兌,銀行就不會垮。

10. 總結

到了這個階段,雲計算基本上實現了時間靈活性和空間靈活性;實現了計算、網絡、儲存資源的彈性。計算、網絡、儲存我們常稱為基礎設施Infranstracture, 因而這個階段的彈性稱為資源層面的彈性。管理資源的雲平臺,我們稱為基礎設施服務,也就是我們常聽到的IaaS(Infranstracture As A Service)

02 雲計算不光管資源,也要管應用

有了IaaS,實現了資源層面的彈性就夠了嗎?顯然不是,還有應用層面的彈性。

這裡舉個例子:比如說實現一個電商的應用,平時十臺機器就夠了,雙十一需要一百台。你可能覺得很好辦啊,有了IaaS,新創建九十臺機器就可以了啊。但90台機器創建出來是空的,電商應用並沒有放上去,只能讓公司的運維人員一臺一臺的弄,需要很長時間才能安裝好的。

雖然資源層面實現了彈性,但沒有應用層的彈性,依然靈活性是不夠的。有沒有方法解決這個問題呢?

人們在IaaS平臺之上又加了一層,用於管理資源以上的應用彈性的問題,這一層通常稱為PaaS(Platform As A Service)。這一層往往比較難理解,大致分兩部分:一部分筆者稱為“你自己的應用自動安裝”,一部分筆者稱為“通用的應用不用安裝”。

  • 自己的應用自動安裝:比如電商應用是你自己開發的,除了你自己,其他人是不知道怎麼安裝的。像電商應用,安裝時需要配置支付寶或者微信的賬號,才能使別人在你的電商上買東西時,付的錢是打到你的賬戶裡面的,除了你,誰也不知道。所以安裝的過程平臺幫不了忙,但能夠幫你做得自動化,你需要做一些工作,將自己的配置信息融入到自動化的安裝過程中方可。比如上面的例子,雙十一新創建出來的90台機器是空的,如果能夠提供一個工具,能夠自動在這新的90台機器上將電商應用安裝好,就能夠實現應用層面的真正彈性。例如Puppet、Chef、Ansible、Cloud Foundary都可以乾這件事情,最新的容器技術Docker能更好的乾這件事情。

  • 通用的應用不用安裝:所謂通用的應用,一般指一些複雜性比較高,但大家都在用的,例如資料庫。幾乎所有的應用都會用資料庫,但資料庫軟體是標準的,雖然安裝和維護比較複雜,但無論誰安裝都是一樣。這樣的應用可以變成標準的PaaS層的應用放在雲平臺的界面上。當用戶需要一個資料庫時,一點就出來了,用戶就可以直接用了。有人問,既然誰安裝都一個樣,那我自己來好了,不需要花錢在雲平臺上買。當然不是,資料庫是一個非常難的東西,光Oracle這家公司,靠資料庫就能賺這麼多錢。買Oracle也是要花很多錢的。

然而大多數雲平臺會提供MySQL這樣的開源資料庫,又是開源,錢不需要花這麼多了。但維護這個資料庫,卻需要專門招一個很大的團隊,如果這個資料庫能夠優化到能夠支撐雙十一,也不是一年兩年能夠搞定的。

比如您是一個做單車的,當然沒必要招一個非常大的資料庫團隊來乾這件事情,成本太高了,應該交給雲平臺來做這件事情,專業的事情專業的人來做,雲平臺專門養了幾百人維護這套系統,您只要專註於您的單車應用就可以了。

要麼是自動部署,要麼是不用部署,總的來說就是應用層你也要少操心,這就是PaaS層的重要作用。

雖說腳本的方式能夠解決自己的應用的部署問題,然而不同的環境千差萬別,一個腳本往往在一個環境上運行正確,到另一個環境就不正確了。

而容器是能更好地解決這個問題。

容器是 Container,Container另一個意思是集裝箱,其實容器的思想就是要變成軟體交付的集裝箱。集裝箱的特點:一是封裝,二是標準。

在沒有集裝箱的時代,假設將貨物從 A運到 B,中間要經過三個碼頭、換三次船。每次都要將貨物卸下船來,擺得七零八落,然後搬上船重新整齊擺好。因此在沒有集裝箱時,每次換船,船員們都要在岸上待幾天才能走。

有了集裝箱以後,所有的貨物都打包在一起了,並且集裝箱的尺寸全部一致,所以每次換船時,一個箱子整體搬過去就行了,小時級別就能完成,船員再也不用上岸長時間耽擱了。

這是集裝箱“封裝”、“標準”兩大特點在生活中的應用。

那麼容器如何對應用打包呢?還是要學習集裝箱。首先要有個封閉的環境,將貨物封裝起來,讓貨物之間互不干擾、互相隔離,這樣裝貨卸貨才方便。好在 Ubuntu中的LXC技術早就能做到這一點。

封閉的環境主要使用了兩種技術,一種是看起來是隔離的技術,稱為 Namespace,也即每個 Namespace中的應用看到的是不同的 IP地址、用戶空間、程號等。另一種是用起來是隔離的技術,稱為 Cgroups,也即明明整台機器有很多的 CPU、記憶體,而一個應用只能用其中的一部分。

所謂的鏡像,就是將你焊好集裝箱的那一刻,將集裝箱的狀態儲存下來,就像孫悟空說:“定”,集裝箱裡面就定在了那一刻,然後將這一刻的狀態儲存成一系列檔案。這些檔案的格式是標準的,誰看到這些檔案都能還原當時定住的那個時刻。將鏡像還原成運行時的過程(就是讀取鏡像檔案,還原那個時刻的過程)就是容器運行的過程。

有了容器,使得 PaaS層對於用戶自身應用的自動部署變得快速而優雅。

03 大資料擁抱雲計算

在PaaS層中一個複雜的通用應用就是大資料平臺。大資料是如何一步一步融入雲計算的呢?

1. 資料不大也包含智慧

一開始這個大資料並不大。原來才有多少資料?現在大家都去看電子書,上網看新聞了,在我們80後小時候,信息量沒有那麼大,也就看看書、看看報,一個星期的報紙加起來才有多少字?如果你不在一個大城市,一個普通的學校的圖書館加起來也沒幾個書架,是後來隨著信息化的到來,信息才會越來越多。

首先我們來看一下大資料裡面的資料,就分三種型別,一種叫結構化的資料,一種叫非結構化的資料,還有一種叫半結構化的資料。

  • 結構化的資料:即有固定格式和有限長度的資料。例如填的表格就是結構化的資料,國籍:中華人民共和國,民族:漢,性別:男,這都叫結構化資料。

  • 非結構化的資料:現在非結構化的資料越來越多,就是不定長、無固定格式的資料,例如網頁,有時候非常長,有時候幾句話就沒了;例如語音,視頻都是非結構化的資料。

  • 半結構化資料:是一些XML或者HTML的格式的,不從事技術的可能不瞭解,但也沒有關係。

其實資料本身不是有用的,必須要經過一定的處理。例如你每天跑步帶個手環收集的也是資料,網上這麼多網頁也是資料,我們稱為Data。資料本身沒有什麼用處,但資料裡面包含一個很重要的東西,叫做信息(Information)。

資料十分雜亂,經過梳理和清洗,才能夠稱為信息。信息會包含很多規律,我們需要從信息中將規律總結出來,稱為知識(Knowledge),而知識改變命運。信息是很多的,但有人看到了信息相當於白看,但有人就從信息中看到了電商的未來,有人看到了直播的未來,所以人家就牛了。如果你沒有從信息中提取出知識,天天看朋友圈也只能在互聯網滾滾大潮中做個看客。

有了知識,然後利用這些知識去應用於實戰,有的人會做得非常好,這個東西叫做智慧(Intelligence)。有知識並不一定有智慧,例如好多學者很有知識,已經發生的事情可以從各個角度分析得頭頭是道,但一到實幹就歇菜,並不能轉化成為智慧。而很多的創業家之所以偉大,就是通過獲得的知識應用於實踐,最後做了很大的生意。

所以資料的應用分這四個步驟:資料、信息、知識、智慧

最終的階段是很多商家都想要的。你看我收集了這麼多的資料,能不能基於這些資料來幫我做下一步的決策,改善我的產品。例如讓用戶看視頻的時候旁邊彈出廣告,正好是他想買的東西;再如讓用戶聽音樂時,另外推薦一些他非常想聽的其他音樂。

用戶在我的應用或者網站上隨便點點滑鼠,輸入文字對我來說都是資料,我就是要將其中某些東西提取出來、指導實踐、形成智慧,讓用戶陷入到我的應用裡面不可自拔,上了我的網就不想離開,手不停地點、不停地買。

很多人說雙十一我都想斷網了,我老婆在上面不斷地買買買,買了A又推薦B,老婆大人說,“哎呀,B也是我喜歡的啊,老公我要買”。你說這個程式怎麼這麼牛,這麼有智慧,比我還瞭解我老婆,這件事情是怎麼做到的呢?

2. 資料如何升華為智慧

資料的處理分幾個步驟,完成了才最後會有智慧。

第一個步驟叫資料的收集。首先得有資料,資料的收集有兩個方式:

  • 第一個方式是拿,專業點的說法叫抓取或者爬取。例如搜索引擎就是這麼做的:它把網上的所有的信息都下載到它的資料中心,然後你一搜才能搜出來。比如你去搜索的時候,結果會是一個串列,這個串列為什麼會在搜索引擎的公司裡面?就是因為他把資料都拿下來了,但是你一點鏈接,點出來這個網站就不在搜索引擎它們公司了。比如說新浪有個新聞,你拿百度搜出來,你不點的時候,那一頁在百度資料中心,一點出來的網頁就是在新浪的資料中心了。

  • 第二個方式是推送,有很多終端可以幫我收集資料。比如說小米手環,可以將你每天跑步的資料,心跳的資料,睡眠的資料都上傳到資料中心裡面。

第二個步驟是資料的傳輸。一般會通過佇列方式進行,因為資料量實在是太大了,資料必須經過處理才會有用。可系統處理不過來,只好排好隊,慢慢處理。

第三個步驟是資料的儲存。現在資料就是金錢,掌握了資料就相當於掌握了錢。要不然網站怎麼知道你想買什麼?就是因為它有你歷史的交易的資料,這個信息可不能給別人,十分寶貴,所以需要儲存下來。

第四個步驟是資料的處理和分析。上面儲存的資料是原始資料,原始資料多是雜亂無章的,有很多垃圾資料在裡面,因而需要清洗和過濾,得到一些高質量的資料。對於高質量的資料,就可以進行分析,從而對資料進行分類,或者發現資料之間的相互關係,得到知識。

比如盛傳的沃爾瑪超市的啤酒和尿布的故事,就是通過對人們的購買資料進行分析,發現了男人一般買尿布的時候,會同時購買啤酒,這樣就發現了啤酒和尿布之間的相互關係,獲得知識,然後應用到實踐中,將啤酒和尿布的櫃臺弄的很近,就獲得了智慧。

第五個步驟是對於資料的檢索和挖掘。檢索就是搜索,所謂外事不決問Google,內事不決問百度。內外兩大搜索引擎都是將分析後的資料放入搜索引擎,因此人們想尋找信息的時候,一搜就有了。

另外就是挖掘,僅僅搜索出來已經不能滿足人們的要求了,還需要從信息中挖掘出相互的關係。比如財經搜索,當搜索某個公司股票的時候,該公司的高管是不是也應該被挖掘出來呢?如果僅僅搜索出這個公司的股票發現漲的特別好,於是你就去買了,其實其高管發了一個宣告,對股票十分不利,第二天就跌了,這不坑害廣大股民麽?所以通過各種演算法挖掘資料中的關係,形成知識庫,十分重要。

3. 大資料時代,眾人拾柴火焰高

當資料量很小時,很少的幾台機器就能解決。慢慢的,當資料量越來越大,最牛的服務器都解決不了問題時,怎麼辦呢?這時就要聚合多台機器的力量,大家齊心協力一起把這個事搞定,眾人拾柴火焰高。

對於資料的收集:就IoT來講,外面部署這成千上萬的檢測設備,將大量的溫度、濕度、監控、電力等資料統統收集上來;就互聯網網頁的搜索引擎來講,需要將整個互聯網所有的網頁都下載下來。這顯然一臺機器做不到,需要多台機器組成網絡爬蟲系統,每台機器下載一部分,同時工作,才能在有限的時間內,將海量的網頁下載完畢。

對於資料的傳輸:一個記憶體裡面的佇列肯定會被大量的資料擠爆掉,於是就產生了基於硬碟的分佈式佇列,這樣佇列可以多台機器同時傳輸,隨你資料量多大,只要我的佇列足夠多,管道足夠粗,就能夠撐得住。


對於資料的儲存:一臺機器的檔案系統肯定是放不下的,所以需要一個很大的分佈式檔案系統來做這件事情,把多台機器的硬碟打成一塊大的檔案系統。

對於資料的分析:可能需要對大量的資料做分解、統計、彙總,一臺機器肯定搞不定,處理到猴年馬月也分析不完。於是就有分佈式計算的方法,將大量的資料分成小份,每台機器處理一小份,多台機器並行處理,很快就能算完。例如著名的Terasort對1個TB的資料排序,相當於1000G,如果單機處理,怎麼也要幾個小時,但並行處理209秒就完成了。

所以說什麼叫做大資料?說白了就是一臺機器乾不完,大家一起乾。可是隨著資料量越來越大,很多不大的公司都需要處理相當多的資料,這些小公司沒有這麼多機器可怎麼辦呢?

4. 大資料需要雲計算,雲計算需要大資料

說到這裡,大家想起雲計算了吧。當想要乾這些活時,需要很多的機器一塊做,真的是想什麼時候要就什麼時候要,想要多少就要多少。

例如大資料分析公司的財務情況,可能一周分析一次,如果要把這一百台機器或者一千台機器都在那放著,一周用一次非常浪費。那能不能需要計算的時候,把這一千台機器拿出來;不算的時候,讓這一千台機器去乾別的事情?

誰能做這個事兒呢?只有雲計算,可以為大資料的運算提供資源層的靈活性。而雲計算也會部署大資料放到它的PaaS平臺上,作為一個非常非常重要的通用應用。因為大資料平臺能夠使得多台機器一起乾一個事兒,這個東西不是一般人能開發出來的,也不是一般人玩得轉的,怎麼也得雇個幾十上百號人才能把這個玩起來。

所以說就像資料庫一樣,其實還是需要有一幫專業的人來玩這個東西。現在公有雲上基本上都會有大資料的解決方案了,一個小公司需要大資料平臺的時候,不需要採購一千台機器,只要到公有雲上一點,這一千台機器都出來了,並且上面已經部署好了的大資料平臺,只要把資料放進去算就可以了。

雲計算需要大資料,大資料需要雲計算,二者就這樣結合了。

04 人工智慧擁抱大資料

1. 機器什麼時候才能懂人心

雖說有了大資料,人的欲望卻不能夠滿足。雖說在大資料平臺裡面有搜索引擎這個東西,想要什麼東西一搜就出來了。但也存在這樣的情況:我想要的東西不會搜,表達不出來,搜索出來的又不是我想要的。

例如音樂軟體推薦了一首歌,這首歌我沒聽過,當然不知道名字,也沒法搜。但是軟體推薦給我,我的確喜歡,這就是搜索做不到的事情。當人們使用這種應用時,會發現機器知道我想要什麼,而不是說當我想要時,去機器裡面搜索。這個機器真像我的朋友一樣懂我,這就有點人工智慧的意思了。

人們很早就在想這個事情了。最早的時候,人們想象,要是有一堵牆,牆後面是個機器,我給它說話,它就給我回應。如果我感覺不出它那邊是人還是機器,那它就真的是一個人工智慧的東西了。

2. 讓機器學會推理

怎麼才能做到這一點呢?人們就想:我首先要告訴計算機人類的推理的能力。你看人重要的是什麼?人和動物的區別在什麼?就是能推理。要是把我這個推理的能力告訴機器,讓機器根據你的提問,推理出相應的回答,這樣多好?

其實目前人們慢慢地讓機器能夠做到一些推理了,例如證明數學公式。這是一個非常讓人驚喜的一個過程,機器竟然能夠證明數學公式。但慢慢又發現其實這個結果也沒有那麼令人驚喜。因為大家發現了一個問題:數學公式非常嚴謹,推理過程也非常嚴謹,而且數學公式很容易拿機器來進行表達,程式也相對容易表達。

然而人類的語言就沒這麼簡單了。比如今天晚上,你和你女朋友約會,你女朋友說:如果你早來,我沒來;你等著,如果我早來;你沒來,你等著!這個機器就比較難理解了,但人都懂。所以你和女朋友約會,是不敢遲到的。

3. 教給機器知識

因此,僅僅告訴機器嚴格的推理是不夠的,還要告訴機器一些知識。但告訴機器知識這個事情,一般人可能就做不來了。可能專家可以,比如語言領域的專家或者財經領域的專家。

語言領域和財經領域知識能不能表示成像數學公式一樣稍微嚴格點呢?例如語言專家可能會總結出主謂賓定狀補這些語法規則,主語後面一定是謂語,謂語後面一定是賓語,將這些總結出來,並嚴格表達出來不久行了嗎?

後來發現這個不行,太難總結了,語言表達千變萬化。就拿主謂賓的例子,很多時候在口語裡面就省略了謂語,別人問:你誰啊?我回答:我劉超。但你不能規定在語音語意識別時,要求對著機器說標準的書面語,這樣還是不夠智慧,就像羅永浩在一次演講中說的那樣,每次對著手機,用書面語說:請幫我呼叫某某某,這是一件很尷尬的事情。

人工智慧這個階段叫做專家系統。專家系統不易成功,一方面是知識比較難總結,另一方面總結出來的知識難以教給計算機。因為你自己還迷迷糊糊,覺得似乎有規律,就是說不出來,又怎麼能夠通過編程教給計算機呢?

4. 算了,教不會你自己學吧

於是人們想到:機器是和人完全不一樣的物種,乾脆讓機器自己學習好了。

機器怎麼學習呢?既然機器的統計能力這麼強,基於統計學習,一定能從大量的數字中發現一定的規律。

其實在娛樂圈有很好的一個例子,可見一般:


有一位網友統計了知名歌手在大陸發行的 9 張專輯中 117 首歌曲的歌詞,同一詞語在一首歌出現只算一次,形容詞、名詞和動詞的前十名如下表所示(詞語後面的數字是出現的次數):

如果我們隨便寫一串數字,然後按照數位依次在形容詞、名詞和動詞中取出一個詞,連在一起會怎麼樣呢?

例如取圓周率 3.1415926,對應的詞語是:堅強,路,飛,自由,雨,埋,迷惘。稍微連接和潤色一下:

堅強的孩子,

依然前行在路上,

張開翅膀飛向自由,

讓雨水埋葬他的迷惘。

是不是有點感覺了?當然,真正基於統計的學習演算法比這個簡單的統計複雜得多。

然而統計學習比較容易理解簡單的相關性:例如一個詞和另一個詞總是一起出現,兩個詞應該有關係;而無法表達複雜的相關性。並且統計方法的公式往往非常複雜,為了簡化計算,常常做出各種獨立性的假設,來降低公式的計算難度,然而現實生活中,具有獨立性的事件是相對較少的。

5. 模擬大腦的工作方式

於是人類開始從機器的世界,反思人類的世界是怎麼工作的。


人類的腦子裡面不是儲存著大量的規則,也不是記錄著大量的統計資料,而是通過神經元的觸發實現的,每個神經元有從其它神經元的輸入,當接收到輸入時,會產生一個輸出來刺激其它神經元。於是大量的神經元相互反應,最終形成各種輸出的結果。

例如當人們看到美女瞳孔會放大,絕不是大腦根據身材比例進行規則判斷,也不是將人生中看過的所有的美女都統計一遍,而是神經元從視網膜觸發到大腦再回到瞳孔。在這個過程中,其實很難總結出每個神經元對最終的結果起到了哪些作用,反正就是起作用了。

於是人們開始用一個數學單元模擬神經元。

這個神經元有輸入,有輸出,輸入和輸出之間通過一個公式來表示,輸入根據重要程度不同(權重),影響著輸出。

於是將n個神經元通過像一張神經網絡一樣連接在一起。n這個數字可以很大很大,所有的神經元可以分成很多列,每一列很多個排列起來。每個神經元對於輸入的權重可以都不相同,從而每個神經元的公式也不相同。當人們從這張網絡中輸入一個東西的時候,希望輸出一個對人類來講正確的結果。

例如上面的例子,輸入一個寫著2的圖片,輸出的串列裡面第二個數字最大,其實從機器來講,它既不知道輸入的這個圖片寫的是2,也不知道輸出的這一系列數字的意義,沒關係,人知道意義就可以了。正如對於神經元來說,他們既不知道視網膜看到的是美女,也不知道瞳孔放大是為了看的清楚,反正看到美女,瞳孔放大了,就可以了。

對於任何一張神經網絡,誰也不敢保證輸入是2,輸出一定是第二個數字最大,要保證這個結果,需要訓練和學習。畢竟看到美女而瞳孔放大也是人類很多年進化的結果。學習的過程就是,輸入大量的圖片,如果結果不是想要的結果,則進行調整。

如何調整呢?就是每個神經元的每個權重都向標的進行微調,由於神經元和權重實在是太多了,所以整張網絡產生的結果很難表現出非此即彼的結果,而是向著結果微微地進步,最終能夠達到標的結果。

當然,這些調整的策略還是非常有技巧的,需要演算法的高手來仔細的調整。正如人類見到美女,瞳孔一開始沒有放大到能看清楚,於是美女跟別人跑了,下次學習的結果是瞳孔放大一點點,而不是放大鼻孔。

6. 沒道理但做得到

聽起來也沒有那麼有道理,但的確能做到,就是這麼任性!

神經網絡的普遍性定理是這樣說的,假設某個人給你某種複雜奇特的函式,f(x):


不管這個函式是什麼樣的,總會確保有個神經網絡能夠對任何可能的輸入x,其值f(x)(或者某個能夠準確的近似)是神經網絡的輸出。

如果在函式代表著規律,也意味著這個規律無論多麼奇妙,多麼不能理解,都是能通過大量的神經元,通過大量權重的調整,表示出來的。

7. 人工智慧的經濟學解釋

這讓我想到了經濟學,於是比較容易理解了。

我們把每個神經元當成社會中從事經濟活動的個體。於是神經網絡相當於整個經濟社會,每個神經元對於社會的輸入,都有權重的調整,做出相應的輸出,比如工資漲了、菜價漲了、股票跌了,我應該怎麼辦、怎麼花自己的錢。這裡面沒有規律麽?肯定有,但是具體什麼規律呢?很難說清楚。

基於專家系統的經濟屬於計劃經濟。整個經濟規律的表示不希望通過每個經濟個體的獨立決策表現出來,而是希望通過專家的高屋建瓴和遠見卓識總結出來。但專家永遠不可能知道哪個城市的哪個街道缺少一個賣甜豆腐腦的。

於是專家說應該產多少鋼鐵、產多少饅頭,往往距離人民生活的真正需求有較大的差距,就算整個計劃書寫個幾百頁,也無法表達隱藏在人民生活中的小規律。

基於統計的宏觀調控就靠譜多了,每年統計局都會統計整個社會的就業率、通脹率、GDP等指標。這些指標往往代表著很多內在規律,雖然不能精確表達,但是相對靠譜。

然而基於統計的規律總結表達相對比較粗糙。比如經濟學家看到這些統計資料,可以總結出長期來看房價是漲還是跌、股票長期來看是漲還是跌。例如,如果經濟總體上揚,房價和股票應該都是漲的。但基於統計資料,無法總結出股票,物價的微小波動規律。

基於神經網絡的微觀經濟學才是對整個經濟規律最最準確的表達,每個人對於自己在社會中的輸入進行各自的調整,並且調整同樣會作為輸入反饋到社會中。想象一下股市行情細微的波動曲線,正是每個獨立的個體各自不斷交易的結果,沒有統一的規律可循。

而每個人根據整個社會的輸入進行獨立決策,當某些因素經過多次訓練,也會形成宏觀上統計性的規律,這也就是宏觀經濟學所能看到的。例如每次貨幣大量發行,最後房價都會上漲,多次訓練後,人們也就都學會了。

8. 人工智慧需要大資料

然而,神經網絡包含這麼多的節點,每個節點又包含非常多的引數,整個引數量實在是太大了,需要的計算量實在太大。但沒有關係,我們有大資料平臺,可以匯聚多台機器的力量一起來計算,就能在有限的時間內得到想要的結果。

人工智慧可以做的事情非常多,例如可以鑒別垃圾郵件、鑒別黃色暴力文字和圖片等。這也是經歷了三個階段的:

  • 第一個階段依賴於關鍵詞黑白名單和過濾技術,包含哪些詞就是黃色或者暴力的文字。隨著這個網絡語言越來越多,詞也不斷地變化,不斷地更新這個詞庫就有點顧不過來。

  • 第二個階段時,基於一些新的演算法,比如說貝葉斯過濾等,你不用管貝葉斯演算法是什麼,但是這個名字你應該聽過,這個一個基於概率的演算法。

  • 第三個階段就是基於大資料和人工智慧,進行更加精準的用戶畫像和文本理解和圖像理解。

由於人工智慧演算法多是依賴於大量的資料的,這些資料往往需要面向某個特定的領域(例如電商,郵箱)進行長期的積累,如果沒有資料,就算有人工智慧演算法也白搭,所以人工智慧程式很少像前面的IaaS和PaaS一樣,將人工智慧程式給某個客戶安裝一套,讓客戶去用。因為給某個客戶單獨安裝一套,客戶沒有相關的資料做訓練,結果往往是很差的。

但雲計算廠商往往是積累了大量資料的,於是就在雲計算廠商裡面安裝一套,暴露一個服務接口,比如您想鑒別一個文本是不是涉及黃色和暴力,直接用這個在線服務就可以了。這種形勢的服務,在雲計算裡面稱為軟體即服務,SaaS (Software AS A Service)

於是工智慧程式作為SaaS平臺進入了雲計算。

05 基於三者關係的美好生活

終於雲計算的三兄弟湊齊了,分別是IaaS、PaaS和SaaS。所以一般在一個雲計算平臺上,雲、大資料、人工智慧都能找得到。一個大資料公司,積累了大量的資料,會使用一些人工智慧的演算法提供一些服務;一個人工智慧公司,也不可能沒有大資料平臺支撐。

所以,當雲計算、大資料、人工智慧這樣整合起來,便完成了相遇、相識、相知的過程。

作者:劉超

來源:劉超的通俗雲計算(ID:popsuper1982)

推薦閱讀

日本老爺爺堅持17年用Excel作畫,我可能用了假的Excel···

看完此文再不懂區塊鏈算我輸:手把手教你用Python從零開始創建區塊鏈

為什麼要學數學?因為這是一場戰略性的投資

180頁PPT,講解人工智慧技術與產業發展

Q: 雲計算、大資料和人工智慧,你都懂了嗎?

歡迎留言與大家分享

覺得不錯,請把這篇文章分享給你的朋友

轉載 / 投稿請聯繫:[email protected]

更多精彩文章,請在公眾號後臺點擊“歷史文章”查看

赞(0)

分享創造快樂