雲計算服務平臺的虛擬計算資源動態管理系統的製作方法

2023-05-17 19:12:06

專利名稱：雲計算服務平臺的虛擬計算資源動態管理系統的製作方法
技術領域：
雲計算在IT領域裡被認為是繼微型計算機、網際網路之後的第三次變革，是網際網路發展的大勢所趨。雲計算是隨著虛擬化技術、CPU多核技術、寬帶技術、並行運算、分布式計算、網格計算的發展，網際網路規模的不斷擴大，用戶對信息、網絡、計算、存儲的需求不斷增大，服務商為適應這種需求而逐漸發展起來的技術和服務。雲計算通過將作為IT信息服務提供主體的伺服器、作業系統、網 絡、存儲、基礎軟體、平臺、架構等技術細節屏蔽並抽象為可運營可管理的計算能力、存儲能力等服務形式，通過網絡動態地提供給信息使用者，用戶按實際使用量進行付費。雲計算具有以下幾個關鍵點1)共享的資源和共享的技術架構2)具有分布式的計算模式和存儲模式；3)通過虛擬化實現數據中心硬體資源的統計復用和可流動的資源；4)能為用戶提供包括軟硬體設施在內的不同級別的IT資源服務；5)資源動態擴展，按需供給，按量計費。6)智能化的應用到資源分配；7)自動化的應用部署和資源配置。現在雲計算已經不單單是一種技術術語或技術架構，更是一種新的服務模式和商務模式。雲計算通過將技術領域的伺服器、網絡、存儲、各種作業系統、軟體做整合，並進一步將產業領域裡的公司、單位和企業裡的數據中心、設備、人員、服務等作整合，使信息服務做到產業化、規模化、專業化、集約化，大大提升了信息基礎資源的使用率和信息服務的效率，節省了社會成本、資源和消耗。
二.
背景技術：
雲計算的核心技術包含了虛擬化技術、分布式計算技術、雲平臺管理技術2. I虛擬化技術2006年以來基於Xen的開源虛擬化發展迅猛，使虛擬化技術逐步開始廣泛普及。由於虛擬化技術可以在一臺伺服器上安裝多個作業系統，從而大大提高了伺服器的使用效率。虛擬化代表資源的邏輯表示，理論上不受物理資源的限制。虛擬化技術的實現形式是在作業系統中加入一個虛擬化層，將下層的資源抽象成另一形式的資源，提供給上層使用。在實踐中有CPU的虛擬化、內存的虛擬化和I/O的虛擬化。雖然IBM早在70年代就開始研究此項技術，但在X86架構上實現虛擬化是從VMware在90年代開始的，因為X86很難實現虛擬化，這是因為X86的ISA架構有17條敏感指令不屬於特權指令，也就是說虛擬機如果執行這些指令肯能會導致整個系統的不穩定。所以Vmware推出了全虛擬化的商業版產品，即無需修改客戶機的作業系統，通過截獲客戶機執行的特權指令並且掃描客戶機內核執行的二進位代碼，將敏感指令翻譯成虛擬化指令來執行。2005年以後出現了以Xen為代表的開源的半虛擬化產品，通過修改Guest OS的代碼，使其將那些和特權指令相關的操作都轉換會發給VMM的Hypercall (超級調用)，而且Hypercall支持批處理和異步這兩種優化方式，使得通過Hypercall能得到近似於物理機的速度。2007年以後Intel和AMD都推出了支持硬體虛擬化的產品，通過引入新的CPU指令和運行模式，讓虛擬機和VMM運行於不同的處理器模式，如Root模式和Operation模式，當虛擬機執行敏感指令時，系統自動切換到Root模式由VMM來執行。還有一類虛擬化是以OpenVZ和Solaris Container為代表的作業系統虛擬化產品，即將主機的作業系統分區，在內核實例的基礎上實現虛擬化，系統開銷更小。但是由於不提供虛擬的作業系統環境，許多需要訪問底層驅動的應用無法運行，而且與主機作業系統不同的作業系統也無法運行。Vmware雖然提供了許多有效的虛擬機管理系統，但是由於VMware是商業版本，按照主機上的CPU插槽數目來收取版本費，對於網際網路公司這樣需要依靠海量PC伺服器來提 供服務的用戶來講，使用VMware的成本是極高的。而基於XEN或KVM這樣的開源虛擬化產品，雖然也有VM的動態遷移功能，但是缺乏虛擬機的管理系統，當應對海量虛擬機資源時，缺乏有效的管理工具，無法自動化地分配虛擬機資源和供應虛擬機資源，也缺乏與應用的接口來調用虛擬機資源為應用服務。2. 2分布式計算技術分布式處理是信息處理的一種方式，是與集中式處理相對的一個概念，它通過通信網絡將分散在各地的多臺計算機連接起來，在控制系統的管理控制下，協調地完成信息處理任務。分布式處理常用於對海量數據進行分析計算，它把數據和計算任務分配到網絡上不同的計算機，這些計算機在控制器的調度下共同完成計算任務，分布式處理的性能主要取決於數據和控制的通信效率。分布式處理是雲計算的一個關鍵環節，它可以部署在虛擬化之上，解決雲計算數據中心大規模伺服器群的協同工作問題，由分布式文件系統、分布式計算、分布式資料庫和分布式同步機制四部分組成。分布式文件系統是分布式計算環境的基礎架構之一，它把分散在網絡中的文件資源以統一的視點呈現給用戶，簡化了用戶訪問的複雜性，加強了分布系統的可管理性，也為進一步開發分布式應用準備了條件。分布式文件系統建立在客戶機/伺服器技術基礎之上，由伺服器與客戶機文件系統協同操作。控制功能分散在客戶機和伺服器之間，使得諸如共享、數據安全性、透明性等在集中式文件系統中很容易處理的事情變得相當複雜。文件共享可分為讀共享、順序寫共享和並發寫共享，在分布式文件系統中順序寫需要解決共享用戶的同一視點問題，並發寫則需要考慮中間插入更新導致的一致性問題。在數據安全性方面，需要考慮數據的私有性和衝突時的數據恢復。透明性要求文件系統給用戶的界面是統一完整的，至少需要保證位置透明、並發訪問透明和故障透明。此外，擴展性也是分布式文件系統需要重點考慮的問題，增加或減少伺服器時，分布式文件系統應能自動感知，而且不對用戶造成任何影響。分布式文件系統的例子有6 5，冊 5，(印11，1^8丨11代41118丨6衝5，即3
坐寸O分布式資料庫是一組結構化的數據集，邏輯上屬於同一系統，而物理上分散在用計算機網絡連接的多個場地上，並統一由一個分布式資料庫管理系統管理。與集中式或分散資料庫相比，分布式資料庫具有可靠性高、模塊擴展容易、響應延遲小、負載均衡、容錯能力強等優點。數據冗餘是分布式資料庫區別於其他資料庫的主要特徵之一，它保證了分布式資料庫的可靠性，也是並行的基礎。隨著以SNS為代表的web2. O動態網站的發展，高並發、海量存儲和高擴展成了傳統關係型資料庫的瓶頸，解決這些問題的非關係型資料庫NoSQL逐漸發展起來。總之分布式數據和NoSQL資料庫的例子有BigTable，HBase，MongoDB，Redis, Tokyo Cabinet, CouchDB, Cassandra 等。分布式計算是讓幾個物理上獨立的組件作為一個單獨的系統協同工作。對於分布式編程而言，核心的問題是如何把一個大的應用程式分解成若干可以並行處理的子程序。有兩種可能處理的方法，一種是分割計算，即把應用程式的功能分割成若干個模塊，由網絡上多臺機器協同完成；另一種是分割數據，即把數據集分割成小塊，由網絡上的多臺計算機分別計算。大型分布式系統通常會同時採取這兩種方法，並解決各功能模塊間協同工作的問題。這類系統可能採用以C/S結構為基礎的三層或多層分布式對象體系結構，把表示邏輯、業務邏輯和數據邏輯分布在不同的機器上，C0RBA、EJB、DC0M是三種主流的中間件技術。也可能採用基於Web的體系結構，或稱Web Service，此模型是高度分布的面向服務的架 構，SOAP, WSDL, UDDI 是 Web Service 的核心技術。在分布式系統中，對共享資源的並行操作可能會引起丟失修改、讀髒數據、不可重複讀等數據不一致問題，這時需要引入分布式同步機制對並發操作進行控制，最常用的方式是分布式鎖機制以及衝突檢測。有幾種常用的並發控制方法基於鎖機制的並發控制方法基於時間戳的並發控制方法樂觀並發控制(OptimisticConcurrency Control)方法基於版本的並發控制方法基於事務類的並發控制方法對於由大規模廉價伺服器群構成的雲計算數據中心而言，分布式同步機制是開展一切上層應用的基礎，是系統正確性和可靠性的基本保證。Google Chubby和HadoopZooKeeper是雲基礎架構分布式同步機制的典型代表，用於協調系統各部件，其他分布式系統可以用它來同步訪問共享資源。2. 3雲平臺管理技術雲計算的主要功能是將計算資源、存儲資源、網絡資源有效地管理起來，以服務的形式提供給使用者。所以不單需要虛擬化技術和分布式計算技術作為基本技術元素，作為一個提供給用戶調用計算資源的服務平臺，更需要處理虛擬資源和物理資源的整合，解決資源按需分配的問題，動態擴展的問題，自動化管理的問題，應用程式部署的問題，數據管理的問題，以及用戶管理、安全備份等問題，這就需要一個完善的雲平臺管理系統來完成。
以上涉及到的虛擬化技術、分布式計算、分布式存儲等技術都是雲計算的基本技術組件，但是要將大規模的網絡系統、資料庫、基礎軟體等作為計算能力、存儲能力等以服務的形式提供給使用者，還需要雲平臺的管理技術將這些組件組織和管理起來，來實現自動化的部署、動態的擴展、應用的支撐、數據的訪問等等。2. 3. I雲平臺的服務模式和服務類型而雲計算是一種創新的服務模式，而雲平臺的服務模式按照按照技術體系架構可分為IaaS, PaaS和SaaS三種
IaaS雲計算平臺的最底層是IT基礎設施，Infrastructure as a Service就是服務商將IT基礎設施包括伺服器、網絡、存儲、作業系統虛擬化後變成一種程序可管理的虛擬資源，通過網絡為用戶提供計算和存儲服務。典型的例子如Amazon的EC2，Gogrid和Rackspace也都是雲計算IaaS服務提供商。PaaSPaaS平臺是一種開發和託管網絡應用的平臺，該平臺提供幾種網絡程式語言和框架，用戶可以使用這種程式語言和框架編寫可擴展和伸縮的應用，在雲計算平臺中運行，而無需考慮程序是否受到資源的限制。這一般是服務商設計一種編程框架API讓用戶寫的應用調用運行在自己內部的雲計算設施上。例如Google的Apps Engine。
SaaS軟體即服務,例如Google Gmail,Google Docs。這是一種通過網際網路提供軟體服務的模式，廠商將應用軟體統一部署在自己的伺服器上，用戶不需要下載安裝到本地，通過瀏覽器即可使用。用戶可以根據自己實際需求，按定購的服務多少和時間長短向廠商支付費用。用戶不用再購買軟體，且無需對軟體進行維護，服務提供商會全權管理和維護軟體，軟體廠商在向客戶提供網際網路應用的同時，也提供軟體的離線操作和本地數據存儲，讓用戶隨時隨地都可以使用其定購的軟體和服務。雲計算平臺按照服務類型又可分為私有雲和公有雲。在企業內部即防火牆以內部署的，為企業內部IT和生產提供服務的是私有雲；在防火牆以外部署的，為公眾提供公共服務的是公有雲；對於雲計算客戶來講，自己有私有雲，同時又將一部分數據和計算放到公有雲平臺，這種雲計算的使用模式叫混合雲。2. 3. 2雲平臺的管理技術分析對於IaaS而言，雲平臺的管理是用虛擬化技術將閒散的物理資源集中和管理起來後，考慮如何將這些抽象的虛擬資源提供給用戶，並從中創造經濟效益。一方面需對IT基礎設施進行管理，包括屏蔽硬體差異、監控物理資源使用狀態、動態分配虛擬資源等 』另一方面還需提供與用戶交互的接口，包括提供標準的API接口、提供虛擬資源的配置接口、提供服務目錄供用戶查找可用服務、提供實時監視和統計功能等。對PaaS服務而言，在雲平臺上需要部署分布式存儲、分布式資料庫、分布式同步機制和分布式計算模式等技術，使平臺就具備分布式軟體開發的基本能力後，PaaS雲服務商還需要考慮如何將這個開發平臺提供給用戶，如在用戶接口方面，需要提供代碼庫、編程模型、編程接口、開發環境等。代碼庫封裝平臺的存儲、計算、資料庫等基本功能，供用戶開發應用程式時使用。編程模型決定了用戶基於雲平臺開發的應用程式類型，它取決於平臺選擇的分布式計算模型。PaaS運營管理系統需解決用戶應用程式運營過程中所需的存儲、計算、網絡基礎資源的供給和管理問題，需根據應用程式實際運行情況動態增加或減少運行實例。為保證應用程式的可靠運行，系統還需要考慮不同應用程式間的相互隔離問題，讓它們在安全的沙盒環境中可靠運行。對SaaS而言，由於服務本身構建在網際網路上，用戶具備聯網能力即可在線使用。不管哪一種服務的運營管理系統，都需要解決產品在運營過程中涉及到的計費、認證、安全、監控等系統管理問題和用戶管理。此外，針對業務特點的不同，各業務運營管理系統還需解決各自不同的問題。SaaS模式在雲計算出現以前就已經存在了，但是SaaS模式在中國也始終沒有打開局面。很多SaaS公司都倒閉了，在美國也只有Salesforce —家比較成功。現有的雲計算服務平臺的主流就是PaaS產品和IaaS兩種類型。PaaS服務是以Google和微軟為代表，主要採用並行運算、分布式運算、分布式存儲技術，適用的客戶具有大型運算任務，如數據挖掘、數據分析、搜索等，用戶需要學習一種新的並行編程方法或編程工具，並使用這種新工具來重新編寫程序來完成計算任務，用戶雖可以成倍地縮短應用的運算時間，但是原有的應用不能平滑地過渡到新的系統。這種類型的特點是將用戶的應用打散揉碎然後分散到資源池中，將計算作為任務發送給各個處於不同地理位置的伺服器處理，得到結果返回。 IaaS服務是以Amazon和RackSpace為代表,主要採用虛擬化技術,適用於單個計算任務不是超大，但是單個應用獨佔伺服器而浪費計算資源，同時面向眾多這種類型的應用和計算任務，或者面向眾多這種類型的客戶。這種類型的服務將硬體伺服器資源虛擬化分區，提供給多個計算任務或多個用戶服務，並管理眾多的虛擬化伺服器構成的資源池。對於用戶來講，原有的應用可以遷移到雲的環境中，而不需要學習新的編程工具重新編寫應用，也不需要安裝其他的應用程式，從而可以保護原有的投資，這種類型的特點是將資源池中的資源按需動態分配給需要資源的應用。目前在市場上，IaaS的雲計算服務佔了絕大多數。這是因為，市場相對比較成熟，商務模式相對清晰，用戶的應用更容易遷移到雲計算環境中，而第一種模式更適用於開發者在雲環境中直接編寫新的雲應用。IaaS服務是在基礎架構上構造的雲計算模式，需要底層的虛擬化產品，如VMware,Xen,KVM等，其中Xen/KVM是開源的產品，Redhat已經集成了 Xen和KVM，這些軟體被稱為HypeVisor或VMM，實現了單臺物理機上的虛擬機化資源管理，包括CPU、內存、I/O的虛擬化管理和虛擬機管理。但是如何將眾多的虛擬化伺服器和網絡、存儲等作為一個資源池來管理起來，構成一個雲計算平臺，智能化自動化地為應用提供動態按需分配的資源，單獨的虛擬化軟體是無法解決的，這需要一個雲計算的管理軟體來完成，或者叫做雲平臺管理系統來完成，這方面沒有標準，沒有成熟的產品和方案，少有成功案例可以借鑑。從以上分析可以看出，PaaS平臺服務是最複雜的，既需要大規模的數據中心和網絡系統平臺作支持，又需要提供完善的分布式應用程式開發環境、編程接口、代碼庫、編程模型、分布式資料庫等，目前只有Google和微軟真正有能力提供以Apps Engine為核心的PaaS服務。國內也僅僅有新浪試驗了 SAE。PaaS平臺服務的對象是應用開發人員，受眾面較小，而且開發人員需要從新學習新的並行編程方式，更增加使用難度。PaaS的商業模式不適很清晰，對於Apps Engine的服務類型講，按照請求調用量、(PU使用量對應用程式計費很難實現，而且由於面向小眾的開發者，真正的收入也不高。雲計算運營真正成功的、有清晰盈利模式的是IaaS,以Amazon為代表，RackSpachGoGrid等許多公司都自複製這個模式。而且目前雲計算服務市場上絕大多數的用戶都是在使用Amazon的EC2和S3服務,例如世界上最大的影視租賃服務商Netflix已經轉型為以視頻流的方式為用戶提供影視點播和下載服務，而他們也從原先的自建自運維數據中心到使用基於Amazon EC2的雲服務，因為EC2可提供線性擴展。2. 3. 3 IaaS平臺管理技術Amazon EC2是典型的IaaS服務，提供了可安裝作業系統的虛擬機，用戶可以自己安裝應用程式，也可以使用AMI (Amazon Machine Image),用Amazon EC2可構建一個高度複雜的定製應用。EC2允許用戶控制環境參數、底層作業系統、存儲和網絡需求，從技術上講，它屬於很底層的服務，用戶可以調整所需要的大部分東西。Amazon的EC2作為IaaS服務提供的是一個平臺，它的服務是提供虛擬機資源的調用和配置服務，但是調用接口是Amazon自己定義的一系列API程序接口。許多第 三方 平臺開發商可以在Amazon平臺之上開發第三方應用，實現用戶應用程式的自動化部署，資源的動態擴展等。如果用戶選擇自服務，則需要學習Amazon EC2服務的API程序接口，再自己編寫腳本申請和創建虛擬機環境，應用程式的部署也需要用戶自己完成。 與Amazon EC2 類似 IaaS 雲平臺還有 Joyent、Gogrid, Rackspace, Savvis,Terremark和世紀互聯的CloudEx等。由於缺乏統一的接口和通信標準,這些平臺間的互操作性很差，用戶無法在IaaS服務提供商間無縫遷移。Abiquo公司推出了開源雲計算平臺AbiCloud，該平臺提供了統一的雲核心，可用於創建具有擴展能力的公有雲和私有雲，還提供了用於集成第三方工具和軟體的各種接口，協助服務提供商建設滿足特定需求的各種雲，在IaaS標準化和開源方面做出的努力嘗試，但這些嘗試並不足以保證IaaS運營管理系統隨手可用。服務提供商需要根據需要，選擇自行研發或在現有開源項目的基礎上構建滿足企業特定需求的IaaS運營管理系統。這些IaaS平臺本身實現的基本功能只是一個較簡單的虛擬機分配，但是即使這樣其內部的系統實現也非常複雜，Amazon從沒有公開過其後臺系統的實現細節，但是有些開源軟體聲稱實現了 Amazon EC2的全部功能，比如OpenNebula, Nimbus, OpenStack,Eucaptuso總之，雲計算服務平臺的管理是一個複雜的問題，目前業界還未形成相關的標準，也沒有可以拿來直接部署使用的系統，雲服務提供商需各自實現。2. 3. 4 IaaS平臺管理系統的開源產品及其問題Xen Cloud PlatformXen Cloud Platform是由開源hypervisor Xen的開發者社區發起的項目，致力於提供給服務商一個完整的基礎設施平臺，具備開放和基於標準的API，多用戶租賃，服務水平協議保障，按需計費的特點。該項目起始於09年中，目前處於快速開發中，系統不夠成熟，並且安裝配置較為複雜。EucalyptusEucalyptus是用於實現雲計算件基礎設施的軟體，讓用戶充分利用自己的伺服器群。Eucalyptus僅實現基本的簡單的虛擬機管理功能，其主要目標不是管理功能的強大，而是將基本的虛擬化管理API化。它具有以下特性與EC2接口兼容(主要接口)用Rocks集群管理工具，安裝和部署都很簡單安全的內部通信，使用SOAP和WS-Security疊加式的工作方式，無需修改目標Linux環境基本的「雲管理」工具，實現系統和用戶帳戶管理，可將多個集群配置成單個雲。Nimbus
Nimbus是網格中間件Globus旗下的開源雲計算項目，Nimbus面向科學計算需求，通過一組開源工具來實現基礎設施即服務(IaaS)的雲計算解決方案。在Nimbus平臺裡，包含的組件有=Workspace節點管理器、基於WSRF的遠程協議實現、基於EC2的遠程協議實現、雲計算客戶端、WorkspacePilot整合虛擬機等面向不同層面的應用組件，Nimbus項目各個組件在設計上非常輕量化且具備自身完備性，可以通過多種異構方式進行組合。OpenNebulaOpenNebula是一個建設私有、公共、混合雲的開源工具。提供靈活的架構、接口、組件。主要特性包括支持Xen, Kvm, Vmware,虛擬化平臺可對接EC2和ElasticHost,使用libvirt，支持 EC2 和 OGC OCCI 接口
LibvirtIibvirt是一套免費、開源的支持Linux下主流虛擬化工具的C函數庫，其旨在為包括Xen在內的各種虛擬化工具提供一套方便、可靠的編程接口，支持與C等多種主流開發語言的綁定。當前主流Iinux平臺上默認的虛擬化管理工具virt-manager (圖形化)，virt-install (命令行模式)等均基於Iibvirt開發而成。特點原生C語言接口，以及其他流行語言的綁定接口，符合CM和QMF規範，支持Xen、Qemu, KVM、LXC, OpenVZ, UML,Virtualbox、VMWare ESX,可遠程管理虛擬機、虛擬網絡。這些開源軟體的確實現了 Amazon EC2的大部分功能，然後其實質還是計算資源和存儲資源的分配，用戶的自服務，用戶的管理和認證等，而沒有真正實現雲計算平臺所要求的自動化管理、資源的動態擴展、應用的自動化部署等功能，在Amazon平臺，這些都是依靠第三方平臺開發商提供的，如RightScale等，但是這些公司的軟體都是商業化的。用戶並不能免費得到。2. 3. 5 IaaS平臺管理系統的商業化產品及其問題雲平臺系統管理軟體的商業版本有VMware vSphere/vCloud, Dell VIS,Platform ISF, Heroku, RightScale, BMC, IBM, HP, OpSource 等。VMwareVMware用於虛擬化和雲計算平臺管理的產品主要是vSphere和vCloud。vSphere主要用於伺服器端虛擬化，通過在一臺物理伺服器上虛擬出多臺虛擬機來起到伺服器整合和資源優化等目的。vSphere可被為兩部分其一是VMM(虛擬化管理器Hypervisor)部分,其二是用於整合和管理VMM的vCenter,主要功能有資源和虛擬機清單管理，任務調度，日誌管理，警告和實踐管理，虛擬機部署和設置等。vCloud Director,是VMware的雲計算計劃，有兩個分支，其一是名為VMwarevCloud Express 的 IaaS 解決方案,其二是名為 VMware Platform as a Service 的 PaaS 解決方案。vCloud Director 是基於 VMware vSphere 的虛擬化能力，並擴展了 VMwarevCenter的資源池功能以使IT部門能夠創建「VDC(Virtual Data Center,虛擬數據中心)」，即由計算、網絡和存儲資源組成的資源池以及預定義的管理策略、服務水平協議和定價機制，並為用戶提供基於VDC的計算資源和能在其之上部署應用。vCloud在設計上支持資源隔離和多租戶，為此vCloud引入了兩個非常核心的概念其一是用於對資源進行隔離的VDC ;其二是用於支持多租戶機制的組織(organization)。
VDC是一個包含用於雲計算的計算和存儲等資源的集合，而管理員通過規則(Policy)來將多個用戶組合成同一個組織。目前雲平臺管理系統市場上份額最大的商家就是VMware，但是它的產品線很多，為了保護它以前的虛擬化產品，它的新的面向雲計算數據中心的產品都是在原有產品上增加的，平臺產品和數據中心產品也是分開的，並且資源的隔離和組織的劃分都需要人工操作，功能能非常複雜，需要有專門的VMware管理人員才能管理，這都增加了 IT管理成本。Dell VIS戴爾VIS架構能夠動態調節應用負載並將計算、存儲和網絡資產整合進統一的資源池。VIS架構由模塊化組件構成，可與客戶現有的IT環境相互集成。VIS架構包含以下三個主要組件 高級基礎設施管理器(AM)，支持管理員根據應用負載分配伺服器、存儲和網絡資源，AIM能夠從數據中心提取硬體和虛擬化層，因此，客戶可專注於配置單一的資源池而非管理多種不同的技術。
VIS自助式創建器，能夠標準化並自動執行應用的部署流程，進而將工作負載的部署時間縮短至幾分鐘。VIS自助式創建器能夠增強IT控制力，同時加速IT流程，從而節省時間和資源。
Dell VIS Director,支持用戶全面查看虛擬依賴關係並快速識別虛擬環境中的問題。該模塊包含先進的報告、假設和趨勢分析、容量和使用率報告、成本分配和拒付解決方案。Dell也是雲計算平臺管理軟體領域一個重要的廠家，VIS可以動態調節應用負責，但是它的硬體自動化部署只能運行於Dell自己的硬體平臺上，不支持異構的硬體平臺。Platform ISFPlatform近期也推出了雲計算平臺管理產品ISF,是針對企業內部私有雲的自動化建設，可以集成各種應用程式環境如J2EE, webSphere, Test/Dev等等,並且有多種資源分配策略，關鍵業務可以預約資源，產品本身做得很好。但是Platform過去十幾年以來都是做科學計算HPC領域的，最近才轉到雲計算領域，所以他的產品自然帶有科學計算的痕跡，如控制應用負載分配到不同的虛擬機中，這個其實可以用LSF等負載均衡來替代。這個產品更多面向企業內部大規模應用，而不是網際網路web應用。另外ISF的價格非常昂貴，按照伺服器的每個CPU插槽收取$ 795美金的版本費。對於網際網路公司來說，大都採用海量廉價的PC伺服器，這種價格是沒人能夠負擔的。BMCBMC推出一個雲計算生命周期管理方案，包括策略推動的服務目錄，並且對服務進行定製化，用於雲計算資源請求和控制的自助服務；適用私有雲和公共雲服務的基礎架構，對於包括計算、網絡、存儲、應用在內的整個服務棧進行動態配置；基於性能分級的安全網絡服務和即用的雲管理工作流；性能監測工具監管雲服務的性能表現；基於ITIL的實現流程。雲計算生命周期管理方案隸屬於BMC雲服務管理方案系列，通過該方案建立的雲平臺，能夠實現對多租戶雲基礎架構物理和虛擬分割的自動化，負載平衡、防火牆和服務等級管理可以自動連接到每個容器上；可實現「自助服務」雲管理門戶，並簡化操作，無縫集成對公共和私有雲基礎架構的規劃、調配以及管理。
但是BMC是做軟體業務流程起家的，所以他的雲計算管理軟體更加側重於業務服務流程管理，BMC的老闆也說BMC做的是雲計算的管理，做的不是提供雲計算，但是必須先要有整合物理和虛擬計算資源，才能有雲計算的服務提供。所以BMC的軟體是針對已經使用了如Amazon EC2雲計算的客戶的，即用BMC的雲管理軟體來管理使用的Amazon EC2,所以這套軟體並不針對要建立和管理雲計算基礎設施並提供雲服務的用戶。國內自研發華為，世紀互聯，大運，浪潮目前國內很多IT巨頭如華為、聯想、浪潮、方正、曙光、阿里巴巴、世紀互聯等也紛紛高調涉足雲計算產業，投入巨資試圖在中國的雲計算產業佔有一席之地，很多公司甚至單獨分出一家子公司來專作此業務。華為在開源軟體Eucalyptus的基礎上開發了一套雲計算平臺管理軟體，現在正試圖與中國移動、聯通和電信三大運營商合作，推出他們的雲計算軟硬體解決方案。浪潮和曙光等也在開發雲作業系統，涵蓋虛擬化、資源管理、任務調度、負載均衡、作業管理、安全認證、計費等，但是還沒有在市場上推出。市場上可見到的是世紀互聯的雲快線，目前這個產品還是半自動化，在用戶自助服務、資源配置管理、動態擴展方面還很不成熟。目前中國的大部分公司都是靠開源軟體做雲計算平臺管理系統，因為這個市場不成熟，客戶也沒有見過什麼是雲計算的產品，所以很容易取得初期的市場，但是開源軟體也有很多問題，這個幾個開源軟體都是只能提供虛擬機分配的基本功能，基於策略的資源自動分配和資源動態擴展功能，也沒有硬體平臺的自動化供應。而且這些開源軟體作了很多網絡池和存儲池等較少用到的功能，然而在實際應用中，網絡池可以依靠LVS來實現，存儲池也可以靠分布式文件系統實現。而且開源軟體本身並不能直接拿來做企業運行的工程化軟體，程序漏洞很多，沒有經過壓力測試，缺少管理風險和處理問題的機制，可靠性都不高，無法承擔工程化任務。同時開源社區本身也並不總是能夠提供及時的技術支持和幫助的。例如華為現在在市場上推的系統是基於Eucalyptus就不是完全開源的，有很多高級功能比如負載均衡和擴展就不是開源的。總之目前市場上的商業軟體和基於開源的軟體都有這樣那樣的問題缺少自動化管理，同質性高，功能太複雜，需要太多的人工配置，缺少自動化供應，缺少資源動態擴展，國外的商業化雲計算管理軟體還沒有漢化，國內的軟體還沒有開發出來。
三.

發明內容
這個發明是一個雲計算服務平臺的虛擬計算資動態管理系統，解決了上述的開源系統和商業化系統的各種問題，可提供虛擬化資源的供應、配置、分配、擴展、管理。專注於雲計算資源的快速部署、供應、資源的分層管理、資源的高效整合和共享、資源的彈性伸縮，動態觸發機制，資源池的線性擴展。3. I 特點: 可生成共享的物理資源池，在不同部門和不同應用之間共享 對應業務邏輯的分層架構模型 支持Xen、KVM、VMware、OpenVZ等主流虛擬化驅動,採用Libvirt調用
支持Windows、Solaris、Linux等虛擬計作業系統 支持 Kickstart, Systemlmager, TFTP, PXE, DHCP 等協議 生成可流動的虛擬資源池，消除單點故障，增加穩定性 智能化的資源對應用分配策略，減少人工輔助。 自動化的物理伺服器到虛擬資源池的快速供應，增強了業務響應的敏捷性。 自動化的應用程式部署
資源動態擴展，不會影響應用程式的服務。 自適應的擴容觸發機制，可調節觸發閾值。籲應用程式負載均衡集成 分布式的緩存 不同類型的應用程式集成，J2EE，HPC, Test/Dev 管理界面簡潔，提供命令行接口。3. 2 功能提供圖形化的友好界面讓用戶自己定義或選擇所需的計算資源，用戶可用滑鼠拖拽的方式在雲平臺上搭建一個企業IT或網際網路應用架構。系統可在數分鐘內動態生成並交付滿足用戶需求的計算資源。雲平臺管理系統自動分析用戶需求，按照預定義好的策略分配所需資源。用戶無需安裝配置作業系統，系統已在所有虛機中完成作業系統的安裝。用戶無需自己安裝配置應用程式，管理系統將用戶提交的應用程式自動部署，並提供負載均衡服務、級別管理、帳號管理、容錯管理、備份管理等。雲平臺系統為所有用戶提供緩存服務、web服務、郵件服務、目錄服務、VPN服務等基礎IT服務。雲平臺系統為用戶提供按需動態擴展服務，用戶編寫的程序無需考慮資源擴展問題，海量用戶並發量和流量帶來的負載壓力問題。用戶無需學習新的編程工具和編程框架，原有的應用程式可無縫地遷移到雲平臺上。雲平臺系統可自動完成硬體伺服器初始化和虛擬化，並自動安裝配置虛擬機，組成虛擬資源池。系統實現自動化管理，減少了人工操作。只需在系統初始安裝時指定資源分層級別和系統動態擴展策略，在以後的服務中，系統可自動化地分配與擴展資源，而操作者只需向資源池中添加物理伺服器即可。總之系統提高了伺服器運行效率和使用效率，增強了平臺穩定性，提高了自動化管理能力，降低了業務響應時間。3. 3工作原理一個典型的網際網路應用的技術框架圖如圖I所示。每個方框代表一組程序完成的特定功能。在每個水平方向上的方框都處在同一業務邏輯層次上，整個應用的邏輯走向是從上到下由箭頭方向所示。大型的網際網路企業或其它IT企業都是有多個這樣相同或類似的應用部署在這樣的架構上，而每個應用的程序組件都綁定特定的伺服器資源。那麼根據業務的邏輯流程，這個架構可以抽象為圖2所示，即把資源分成以下不同的層次。伺服器硬體資源經過虛擬化後按照預定義的策略被分成多個的邏輯層次。每個層次抽象成一個虛擬機組成的資源池。每個層次的虛擬機資源配置都不相同。層次之內所有的虛擬機配置是相同的。每個層次都支持不同的業務，每個業務在特定層次內是共享這個層次的虛擬機資源池。每個業務在縱向層次有邏輯業務和數據的走向。
在系統中定義3 種對象，Aggregate, Vol, vTask。Aggregate對象是一種代表所有同類虛擬機(VM)的聚合,每一個Aggregate對應如圖3所示的一個層次的虛擬機集合。Vol對象是在Aggregate之上的一個子集對象,是代表某一業務在這個層次的分配的虛擬機集合。vTask對象代表一個虛擬的業務在各層次上所需的vol的集合，包含了業務邏輯流程。三者之間的關係如圖3所示。每個對象的特點Aggr Aggr是代表一種相同類型虛擬機的聚合的對象，在聚合中的每個虛擬機都具有相同的屬性，比如相同的CPU數量和頻率，內存大小，硬碟容量等。 當系統生成Aggr的實例時，只需指定一系列具有相同虛擬機配置的物理機名，系統即將這些物理機上的連續VM分配給Aggr的實例。
Aggr的底層是物理機。^Aggr可以靠添加機器手動擴展。Vol Vol是一種邏輯上的裝載VM的容器，可以通過增加或減少VM任意改變容器的大小，所以不受物理機的硬體限制。
Vol的大小決定於應用需要多少數據量傳輸、多少數據存儲等資源需求，而不是決定於物理機上有多少虛擬機。
Vol裡的VM是分布在不同的物理機上的，如圖4所示，可以將流量分配到不同的機器上，並且一臺機器出現故障時，也僅影響業務的一部分，而不會影響整個業務。
Vol可以自動的在線增加和減少。
Vol是為某個具體應用在某個Aggr實例上產生的。vTask vTask對應一個應用 vTask由分布在不同Aggr裡的vol組成 vTask定義不同Aggr裡的vol的邏輯走向。物理機、虛擬機、Aggr對象、Vol對象和vTask對象的關係如圖5所示系統中每一對象都有一個全局屬性，用來描述對象中數據記錄的元信息。
系統把每個VM當作一個dead end來管理，所有經過系統部署的VM都有一個數據記錄，記錄名字、IP位址、作業系統版本、CPU個數、內存、硬碟大小、VM在物理機的位置和物
理機的名字等等。每個Aggr維護一個VM的可分配資源池，由雙向鍊表組成；還維護一個vol的鍊表。每個Vol維護一個已分配的VM鍊表。每個vTask維護一個分配的Aggr鍊表。系統還維護總的物理機鍊表、Aggr的列表和vTask的列表。系統用heartbeat來監測屬於Aggr的每個VM,如果由於伺服器巖機而VM不可達， 該VM會被打上不可用標記，VM恢復時，系統恢復標記。當Aggr上VM的可分配資源池足夠小時,添加物理機可擴展Aggr,新增的VM會加入到備用VM池的雙向列表的尾部。這種設計的好處是資源利用效率提高，配置靈活，資源共享。圖6是採用以前的配置，每個應用都被限制在物理機上，富裕的資源和性能不能被緊缺資源或性能的應用分享。圖7顯示通過這種新的設計而部署的應用可以共享VM聚合的資源和性能。在系統實現時，物理資源被虛擬化為由虛擬機構成的資源池，虛擬機被劃分到各個Aggr對象,在Aggr對象上產生可伸縮的由VM組成的VOL變量。每個Aggr上可有多個Vol, Vol可動態伸縮，當Aggr空間不夠時,管理員可添加VM擴展Aggr。例如在Aggr實例之上生成vol的實例,通過命令行create vol voll on aggrlvm 10,在aggrl上生成voll實例，要求系統分配10個VM。系統會在Aggrl中不同的物理機上選擇VM來生成Vol。這樣任意一個物理機宕機不影響Vol上的應用，增加了可用性。生成vol對象實例後，我們指定系統生成對象vTask的實例，即根據應用的需求，指定不同層次的 vol。例如 create vTask vtaskl aggrl. voll, aggr2. voll, aggr4. voll.這裡我們生成一個vTask對象的實例，vtaskl,包含aggrl上的voll、aggr2上的voll、aggr4 上的 voll 等。
四.


圖1，典型的企業IT軟體或網際網路應用的技術架構。圖2，分層的業務邏輯架構。圖3，三個對象在分層架構上的表示。圖4，Vol對象上的虛擬機跨物理機分布。圖5，三個對象和物理機、虛擬機的關係。圖6，採用本系統之前的應用模式。圖7，採用本系統之後的應用模式。圖8，5個子系統的關係圖。圖9，Aggr的虛擬機備用池的雙向鍊表圖10,應用程式進程間通訊圖11，系統生成Vol實例的算法
圖12，系統分配虛擬機(VM)的算法圖13，神經網絡的矩陣訓練算法
五.
具體實施例方式雲平臺管理系統由5個子系統構成，如圖8所示I)資源自動化部署系統2)虛擬機管理系統3)應用部署系統4)資源分配與管理系統 5)資源動態擴展系統5. I資源自動化部署系統資源自動化部署系統完成物理資源初始化、安裝、配置和轉化為虛擬化資源池。自動化部署也叫Provisioning系統，是一套基於Kickstart的並使用Perl,Python和腳本開發的系統。在交換機做好埠初始化後，將物理機接入網絡埠，機器啟動後，自動通過PXE引導boot,發現所在的網段,根據設定好的要求，自動選擇Kickstart profile,完成自動化系統安裝與配置。在主機作業系統安裝的同時安裝虛擬機作業系統，按照定義好的配置模板配置虛擬機，配置應用服務，最後進入到虛擬資源備用池，按照分層架構和預定義的規則庫自動地將資源池中的虛擬機分成不同的聚合集群，每個聚合對應一個層次。5. I. 2前期準備自動化部署的前期準備需要手動完成，包括# BIOS和firmware的配置，包括firmware的升級，時間的配置，VT enable,Hyperthreading disable, PXE enable, Raid config 等等。 配置好交換機網絡埠和網段，不同的應用伺服器連接到不同的網段。 配置好DNS，即加入IP和伺服器主機名。5. I. 3作業系統自動安裝在安裝作業系統後可自動配置系統參數的配置，包括主機名，Username,Password，IP，kernel Parameters，ulimit，disable services, enable cache etc.該系統支持Kickstart，Systemlmager, PXE, DHCP, TFTP 等協議。系統支持Image映像，並存放在Systemlmager伺服器中。應用的首臺伺服器安裝由kickstart完成，其它伺服器配置由Systemlmage完成自動化部署。由Systemlmager完成自動化部署的時間比Kickstart縮短3到5倍，大大提高安裝效率。5. I. 4虛擬機的配置與安裝虛擬機的Hypervisior 選用 KVM。KVM要求伺服器BIOS必須先enable VT0 VT是Intel擴展的CPU運行模式，可在硬體級別運行虛擬機的敏感指令。由於使用了 VT, KVM可以大大簡化其作為Hypervisior的代碼，並且利用Linux Kernel自身的功能實現虛擬機要求的環境,所以KVM比Xen小巧，且自身作為Kernel model運行,不需要像Xen —樣另外加載一個Kernel.
虛擬機的CPU的分配每個虛擬機可分配一到兩個物理CPU內核虛擬機的內存分配根據不同業務和應用的需求,虛擬機內存可分為4G，8G，12G，16G，24G。虛擬機的硬碟分配虛擬機的硬碟直接分配在物理機硬碟塊分區上，可提高I/O讀寫速度3到5倍。虛擬機的安裝 物理機和虛擬機混合部署，在安裝物理機的postinstall階段將壓縮的虛擬機映像copy到物理機，然後解壓縮並安裝所有虛擬機，可節省5到10倍的時間。虛擬機的配置按照規則庫劃分虛擬機網絡、CPU、內存和硬碟分區。5. I. 5 補丁升級(patching)Patching系統用來統一為天涯數據中心的各種作業系統作升級服務。Patching系統維護一個系統和軟體的補丁和包的Repository Server,可從外網下在各種軟體包和補丁，在內網為不同環境的系統提供服務。Patching系統管理不同類型的補丁的版本，並可為Image伺服器的各Image打補丁或升級。Patching 系統選用 mrepo Server 來保存補丁文件,mrepo 支持 Yum 和 up2date。5. I. 6虛擬資源池的生成生成虛擬資源池的過程是向表裡添加記錄，生成對象和指針鍊表等I)生成物理機庫表記錄物理機表
ID Hostname IP Addr System Version Partition VM List2)生成虛擬機表記錄虛擬機表
ID Hostname IP System Version Host Avail Vol Aggr vTask User 丨 _________. .___ID__；_-虛擬機ID，Hostname，IP，System, Version, Host ID，location，Availibility, Vol, Aggr,vTask，User，CPU，Memory, Size, Timestamp3)通過規則庫，生成預設的Aggr對象。Aggr對象如下表所示
Aggr對象屬性 AggrOLVS
AggrlVarnish
Aggr2Web
Aggr3__Java
Aggr4PHP
權利要求
1.一種雲計算服務平臺的虛擬計算資源動態管理技術，其特徵在於 具有自動化物理伺服器到虛擬伺服器的供應能力，根據應用邏輯架構定義的虛擬機資源分層管理，計算資源的智能分配，在線動態擴展資源。
2.上述權利要求I所述的系統，具備自動化供應能力，其特徵在於 具有大規模物理伺服器通過網絡DHCP、TFTP、PXE、Kickstart、SystemImager自動化安裝作業系統，並自動引導虛擬機的配置和作業系統的安裝； 通過網絡實時從映像機下載虛擬機作業系統壓縮映像，複製到各個虛擬機磁碟分區，並解壓縮完成虛擬機系統安裝，通過腳本程序完成作業系統的配置； 當主機作業系統已完成，僅需虛擬機系統安裝、擴展或重新配置時，在主機中使用Kickstart完成指定虛擬機的重安裝。
3.上述權利要求I所述的系統，具備虛擬計算資源的管理能力，其特徵在於 分層的資源池管理技木，按照業務的邏輯架構將自動化供應的虛擬機分層，如負載均衡層、全局緩存層、web層、應用層、資料庫緩存層、資料庫層等，每個層次生成ー個由數據對象結構和列表表示的虛擬機資源池。
4.上述權利要求2所述的能力，其特徵在於 定義了 3 種對象，Aggregate, Vol, vTask Aggregate對象表示所有同類虛擬機的聚合,姆ー個Aggregate對象的實例對應ー個層次的虛擬機聚合，在聚合中的每個虛擬機都具有相同的屬性，底層是物理機，可以通過自動化供應新的物理機實現自動擴展； Vol對象是在Aggregate之上的ー個子集對象,代表某ー業務在這個Aggregate實例層次上被分配的虛擬機集合，Vol是ー種邏輯上的裝載VM的容器，可以通過増加或減少VM任意改變容器的大小；Vol的大小決定於應用需要多少數據量傳輸、多少數據存儲等資源需求，而不是決定於物理機上有多少虛擬機；Vol裡的VM是分布在不同的物理機上的，可將流量分配到不同的機器上，一臺機器出現故障時，不會影響整個業務；Vol可以自動的在線增加和減少，只要Aggr有足夠的空間；Vol是為某個具體應用在某個Aggr實例上產生的； vTask對象代表一個業務在各Aggregate層次上所需的vol對象的集合,包含了業務邏輯流程； vTask對應一個應用，由分布在不同Aggr裡的vol組成；vTask定義不同Aggr裡的vol的邏輯走向。
5.上述權利要求I所述的系統，其特徵在於 具備虛擬計算資源的智能分配能力，接收應用程式部署、虛擬機申請和動態擴展子系統的服務請求，生成對應層次的三個對象的實例，每個層次有自己的資源分配策略，應用層按照分散原則在資源池中找到下ー個可分配的虛擬機資源，保證該虛擬機在不同的物理機上，劃分虛擬機到Vol變量的VM列表中，並將該虛擬機從資源池中刪除。
6.上述權利要求I所述的系統，其特徵在於 具備虛擬計算資源的動態擴展能力，動態擴容觸發機制 通過實時監測應用程式和虛擬機的負載，輸入經過人工神經網絡訓練的ニ維矩陣，判斷是否擴容和縮容，當系統通過人工神經網絡的判度決定擴容或縮容時，系統向資源分配系統申請增加或減少VM，如果是新增VM，系統複製預先存好的VM配置拷貝到新的VM中，系統找到Aggr(i-l)中的vol的所有VM,察看姆ー個VM的服務或應用，如果是LVS、Apache、PHP, Java等標準服務，在服務配置表中找出該服務的配置文件，増加的新的VM名字的IP，在按照服務對應表中指定的命令使服務重讀修改過的配置文件。
7.上述權利要求I所述的系統，其特徵在於，具備虛擬機管理技術 虛擬機管理系統為程式設計師管理和分配開發用虛擬機。程式設計師通過web界面向系統提交所需虛擬機配置、數量、應用開發所需的服務、開發周期等需求，系統接收請求後，生成程式設計師記錄。系統管理員登陸管理接ロ，從資源池中分配下ー個可分配的符合要求的虛擬機，並劃分到程式設計師記錄中。系統後臺將分配的虛擬機從資源池中刪除，當程序開發完成、或程式設計師離職，系統將收回已分配的虛擬機到資源池中，並刪除程式設計師記錄。
全文摘要
雲計算是IT技術的第三次變革，將深刻影響信息化社會的信息獲取模式。雲計算服務平臺將計算、網絡和存儲轉化為資源池通過網絡為用戶提供服務。雲計算服務平臺的虛擬計算資源動態管理技術，提出了一個分層的雲計算基礎架構模型，定義了三種對象來描述並管理可伸縮的虛擬機資源的狀態、屬性、特徵和行為；可自動化物理伺服器到虛擬資源池的供應；提出了一種在線動態擴容的方法，通過實時採集系統負載狀態和應用運行狀況，由人工神經網絡作為判斷資源伸縮觸發的機制，在不中斷服務的情況下動態擴展虛擬機算資源。
文檔編號G06F9/50GK102681899SQ20111005938
公開日2012年9月19日 申請日期2011年3月14日 優先權日2011年3月14日
發明者金劍 申請人:金劍