一種多中心流域水環境分布式集群管理系統及方法

2023-11-02 20:53:27 2

一種多中心流域水環境分布式集群管理系統及方法
【專利摘要】本發明公開了一種多中心流域水環境分布式集群管理系統及方法；本系統構建了不同管理級別和職能級別的系統作業管理中心、數值模擬中心、數據中心、決策指揮中心和客戶端業務中心。通過不同中心的分工協作，能整合流域水環境各單位各中心的計算機資源、形成資源池、並針對流域各單位各中心的職能按需提供服務，能克服傳統流域模型體系由於串行計算引起的等待時間損耗、流域尺度模擬運算速度慢效率低以及資源重複建設浪費的問題，極大的提高流域水環境模擬的模擬效率、整合全流域的硬體資源和數據資源、實現全流域的水環境的管理、現狀評價、未來趨勢預測以及突發事件應急模擬與決策支持，保障流域水環境安全。
【專利說明】一種多中心流域水環境分布式集群管理系統及方法

【技術領域】
[0001]本發明屬於流域水環境管理【技術領域】，涉及一種多中心流域水環境分布式集群管理系統及方法，尤其是涉及一種基於流域水環境數值模型的適用於流域不同管理單位使用的流域水環境動態監控、風險預警評價和突發事件應急響應的管理決策支持系統及管理方法。
[0002]

【背景技術】
[0003]隨著人類獲取信息的技術手段不斷變化、個人或單位作為個體在網絡世界的參與度不斷加深，同時加之以雲計算、物聯網、移動等技術的興起，人們所獲取的數據和有意向發布的數據不斷增加，人類已經進入數據大爆炸的全新的大數據時代。隨著大數據時代的到來，人類在大數據領域的數據存儲、數據管理和數據計算技術也取得了進步；數據存儲硬體容量不斷得到提升、存儲器數據吞吐量增加、網絡間數據傳輸速度加快、並行計算、分布式集群計算以及雲計算的出現，使得不應用高性能大型計算機通過PC機的集群共享實現高速運算成為可能。
[0004]在大數據領域內，google採用MapReduce並行計算編程模型、BigTable分布式結構化數據存儲以及GFS分布式文件系統等核心技術，使得google在面對網際網路大容量、多類型、高時效的數據處理中，異軍突起；2004年其公開發表了這三大核心技術，同時基於分布式集群計算和並行計算的MPI標準與OPENMP的發展與廣泛應用，更進一步促進了分布式並行計算在網際網路領域、計算機領域的快速發展；我國網際網路和計算機的領軍企業阿里巴巴、騰訊、中國移動、華為等相繼構建了自身企業級別的集群計算服務體系，向全世界提供優質計算和信息服務。分布式集群計算，通過整合集群內的軟硬體資源、構建雲中心，在並行計算數據模型的支持下，成為人類在當前和未來以相對低廉的代價滿足大數據、大環境的需求的重要手段，這是一套新興的技術，正處在蓬勃而快速的發展之中。
[0005]在流域環境領域，環境問題越來越呈現出大流域、大範圍的普遍性問題，流域內上下遊左右岸之間的環境聯繫越來越緊密，單純從局部探討環境問題解決環境問題已經無法滿足現實的需要。自從人們認識到環境問題的嚴峻性後，從科學研究、政府行為等方面開展了一系列的工作。隨著環境監測管理部門和科學研究者在環境監測上的持續投入，環境監測技術取得了重大的發展且在實際中不斷應用；我國各流域相繼建立了流域管理機構以及下級環境保護與管理機構，這些機構在流域內布設了大量的自動監測站、開展了一系類的環境研究，流域內獲取的環境數據不斷增加、人工監測調查的頻率不斷加大、積累了大量的流域地理地貌、社會經濟、氣質水文水質等數據；同時，環境監測手段的發展、遙感技術、航拍技術、立體掃描技術等獲得的環境數據的種類不斷增多、在傳統的結構化關係表數據的基礎上，流域DEM、遙感影像、圖片視頻等非結構化數據也呈現出爆炸式的增長；為處理這些數據、各級環境管理部門購置了大量的存儲設備和硬體計算設備；並針對不同的環境問題，開發了各種模擬環境中某一或多種環境現象現狀、趨勢預測的環境數值模型，這些模型包括氣象模型、面源汙染模型、點源模型、水動力模型、水質水生態模型和突發事件模型等。
[0006]無論從硬體資源、數據資源還是計算模型資源上，環境領域已經迎來了大環境數據的時代；但在這樣的時代背景下，各級環境管理研究機構仍各自為政、對同一流域的研究管理，上下級機構和不同的研究部門之間缺乏有效地信息共享資源共享機制，數據的重複收集、硬體資源的盲目布設和軟體系統的重複開發等現象普遍存在；流域各級部門之間的數據缺乏統一的管理和規範、軟體之間缺乏有效合理的接口、硬體設施無法互聯共享；給流域的統一管理、共同行動造成了較大的困難。如何合理科學的管理環境領域的大數據並從中分析出有用的信息以進行高速高效的應用，避免數據的重複收集、盲目建設、無效生產和低效利用是解決當前環境大數據的生產問題、共享問題、管理問題以及應用問題的難點和關鍵。
[0007]


【發明內容】

[0008]為了解決上述的技術問題，本發明提供了一種多中心流域水環境分布式集群管理系統及方法。
[0009]本發明的集群管理系統所採用的技術方案是:一種多中心流域水環境分布式集群管理系統，其特徵在於:包括系統作業管理中心、數據分布式集成中心、數值模擬中心、環境決策支持服務中心和客戶端業務中心；
所述的系統作業管理中心(簡稱管理中心，NodeMaster)為集群管理系統的業務分配管理與系統狀態評估中心，是進行系統業務部署與作業分配的主節點，使集群管理系統中的伺服器和工作站、計算器能協同分工合作，並實時記錄接收與可視化展現集群管理系統中運行計算機的工作狀態，快速發現定位運行故障、恢復系統正常運行，實現集群管理系統的自動化、智能化業務處理；
所述的數據分布式集成中心(簡稱數據中心，NodeData)是集群管理系統的數據存儲與數據集成模塊，實現對水環境風險資料庫歷史數據的存儲管理，基於物聯網技術自動或半自動的不斷獲取、整理自動監測站數據以及人工監測的水文、水質和氣象數據；整合不同格式、不同來源和不同性質的環境數據，實現流域數據的分布式集成，為數據計算與分析及客戶端業務中心顯示提供數據支撐；
所述的數值模擬中心(簡稱模型中心，NodeModel)是集群管理系統中進行數值模擬計算的中心，包括一套模型條件節點和一套模型應用節點；集成流域水環境模型庫，能開展流域氣象模型、陸地面源模型、水動力模型、水質模型、水生態模型以及突發事件的水環境數值模型的模擬；所述的數據中心在系統作業管理中心的統一分配下，按照水環境數值模擬的區域分解和功能分解兩種任務分解方式實現分布式計算和通訊；實時、快速的開展數據計算工作，為環境決策支持服務中心的環境決策分析提供支撐；
所述的環境決策支持服務中心(簡稱決策中心，NodeDesign)是面向環境管理部門的環境決策客戶端中心，基於數據中心的水環境模擬結果利用客戶端業務中心進行可視化展示，以全面的了解流域環境狀況和未來趨勢；同時在數據中心的智能專家決策知識庫的協助下，進行水環境風險決策優化，為環境管理部門提供決策支持服務；
所述的客戶端業務中心(簡稱客戶端中心，NodeClient)是面向普通大眾的互聯客戶端中心，對客戶端提供環境狀態信息、水環境警情信息、風險規避方式與防災信息的發布以及水環境模擬分析服務；同時設置普通大眾報警模塊，實時接收、分析、處理與上報客戶端用戶的警情匯報信息，實現水環境管理的全民參與。
[0010]作為優選，所述的系統作業管理中心包括任務分配單元、任務監控單元、故障處理單元、安全管理單元、實時備份單元和結果反饋單元；
所述的安全管理單元用於保證集群管理系統安全運行、阻止非權限用戶以及不正常訪問用戶或惡意用戶使用集群管理系統、提交作業、查看修改數據的安全屏障，通過用戶名、密碼以及秘鑰的方式進行雙重認證；
所述的任務分配單元用於依據驗證用戶的指令需要，對集群管理系統中的各節點進行任務分配，是管理與分配模型中心的各功能節點開展業務計算的重要單元；任務分配單元接收到用戶的指令後，對指令進行分析，辨別用戶要使用的功能，並相應的啟動模型中心和數據中心的功能模塊；
所述的任務監控單元是系統作業管理中心實時獲知模型中心各任務節點運行狀態的重要部分；任務監控單元通過兩種方式實現對計算節點的任務監控；一種是主動監控，採用心跳檢測方案，在節點運行中，任務監控單元讀取任務映射關係表中在執行任務的節點，定時向其發送ping，以判斷其連接和運行的正常性；一種是被動監控，即心跳報告的模式，計算節點在計算中，定時將自己的運行狀態反饋給任務監控單元；任務監控單元在收到節點的反饋信息後，將對應的節點計算機運行狀況、運行進展情況生成運行日誌，存儲在系統作業管理中心的運行日誌資料庫中；若在主動檢測中，收不到目標節點的消息或在被動檢測中收到目標節點報告運算錯誤的消息，任務監控單元在存儲其運行日誌的同時，激活故障處理單元，開展下一步的故障處理；
所述的故障處理單元用於當故障處理單元激活後，查詢分析運行日誌，判斷故障節點出現運行錯誤的原因；在主動檢測中收不到目標節點的反饋或收到運行錯誤的被動監測信息，判斷該節點與管理中心是否失聯或出現程序故障，一方面通知管理員進一步人工檢測失聯原因與故障問題，另一方面根據與失聯節點的最近的運行記錄，激活其備份節點，在運行日誌記錄的情況下，繼續運行模型，同時查看映射關係表，找到當前情況下空閒的節點，複製所有有關的輸入數據，將其作為該備份節點的備份節點，修改映射關係表；
所述的模型輸出檢測單元是在任務分配單元分配模擬任務後，對模型的輸出結果進行監控的單元，其作用是判斷模型輸出是否正常、是否有輸出，並將結果反饋給任務分配單元，從而協助任務分配單元在需要多個模型進行遞進並行運行模式時，實時的啟動相關模型；
所述的實時備份單元用於承擔系統作業管理中心運行指令、映射關係表以及數值運行日誌的備份單元，是為當管理節點出現故障時，能快速重新修復集群管理系統，保障集群管理系統服務更加可靠的安全措施；在管理中心工作中，實時定時將管理中心的所有運行文件備份在管理中心的備份節點上；
所述的結果反饋單元用於根據用戶指令、任務映射關係表以及系統運行日誌，將用戶請求的數據信息或模型模擬計算結果推送至業務客戶端進行模擬結果的展示。
[0011]作為優選，所述的數據分布式集成中心包括數據存儲單元、數據管理單元和模型數據處理單元； 所述的數據存儲單元用於存儲流域水環境相關的數據，數據存儲單元中由連入集群管理系統的不同區域不同部門的數據節點組成、所有數據節點獨立運行、資源共享，組成集群管理系統的數據池；數據節點中的數據類型包括用戶數據、基礎地理數據、社會經濟數據、水質數據、水文數據、氣象數據、流域整體粗細網格、模型參數以及模型模擬結果數據；所有數據按統一規範要求進行存儲。
[0012]所述的數據管理單元是提供用戶增加、刪除、修改、更新資料庫的主要數據管理功能單元，除具有常規的資料庫的管理功能外，還針對水環境數據的特點，設置有數據校核功能，所有新添加的數據在輸入資料庫前，均要求人工校核，以確保數據的準確無誤；校核過程包括閾值範圍分析、趨勢分析、對應關係分析；閾值分析是當輸入數據超出該閾值範圍內時，提示警告信息，並提醒數據管理人員進行數據的校核預處理；趨勢分析，則通過輸入數據的數值趨勢線，查看其一定時間內的數據隨時間的變化趨勢，若發現錯誤數據，要進行原始數據的進一步查驗校核；對應關係分析則是在GIS地圖上顯示數據中的測站、入匯口的具體地理位置在整個流域的位置是否準確；
所述的模型數據處理單元有兩個基本的功能，一是根據任務分配單元的命令，依據計算範圍和計算時間，從資料庫提取出滿足計算範圍和計算時間需要的數據，並傳送給模型中心；另一個是接收模型中心傳送過來的數據，並轉換為資料庫文件進行入庫存儲。
[0013]作為優選，所述的模型中心包括模型池，模型池中有兩套模型節點，一套是模型條件節點、另一套是模型應用節點；在兩套模型節點中包含有不同功能的數值模型，模型條件節點是針對全流域模擬需求而設定的模擬節點，由氣象模型、陸地面源模型、水動力模型、水質模型和水生態模型組成；模型應用節點由水動力模型、水質模型、水生態模型和突發事件模型組成；每套模型對應有固定的子節點，且在模型子節點開展作業時，預設一套進行功能和數據備份的臨時備份節點；模型條件節點主要的功能是實現對流域整體的水環境模擬，從而為模型應用節點提供模型需要的氣象條件、面源入匯條件和水動力水質邊界條件，具有定時業務化運行方式和用戶請求運行方式；模型應用節點是針對用戶局部精細模擬需求，解決實際應用問題而設置的模型節點，其運行方式由用戶需求決定；模型條件節點和模型應用節點之間不直接進行數據交換和文件共享，模型條件節點的結果數據通過數據中心存儲，在模型應用節點需要的時候，輸入模型應用節點對應的文件中；兩套模型節點的模型均採用遞進並行啟動模式，啟動後的模型控制採用分段控制運行方式進行。
[0014]作為優選，所述的遞進並行啟動模式，該模式是一種在時間上存在一定的間隔，不是同時啟動所有模型的並行方式，這種方式考慮到模型之間的耦合關係，模型之間常存在一種模型的輸出結果將作為另一類模型的邊界而存在，因此通過一定的時間差分別遞進的啟動模型，以減少整個系統的等待時間提高整體運行效率的並行方式；氣象模型為陸地面源模型、水動力模型、水質模型、水生態模型以及突發事件模型提供氣象邊界，面源模型為水動力模型提供流量入匯條件，為水質模型提供水質入匯條件，為水生態模型提供生物量入匯條件；水動力模型的模擬結果則為水質模型與水生態模型和突發事件模型提供水動力條件；因此在分布式並行中，讓提供邊界條件的模型(這裡稱為條件模型)先運行，而需要讀取邊界模型的邊界結果的模型(這裡稱為需求模型)的則等待其執行，在邊界模型按照輸出規則輸出一定時間段內的結果並經數據中心轉換輸入到需求模型後，數據中心將完成情況反饋給任務分配單元，任務分配單元將任務分配給需求模型，需求模型啟動讀取該更新結果進行運行，依次類推完成所有模型節點的啟動；需求模型啟動後採用分時控制運行方式進行運行，最終模型中心的所有模型形成穩定的遞進關係，達到所有模型並行執行的效果；在分布式並行運行中，各模型獨立運行，需求模型與條件模型的數據關係按照分段控制運行方式控制。
[0015]作為優選，所述的分段控制運行方式，是模型在遞進並行啟動後的並行控制方式；由於條件模型和需求模型同步運行，設定所有模型的模擬結果在每隔同一個輸出時間步長Δ t輸出模擬結果，因此相對於條件模型，需求模型在啟動後，內部的條件檢測模塊在新的模擬步長開始前需不斷地檢測條件模型的輸出結果是否已經過NodeData中心轉換輸入到自身的輸入文件夾中，以支持其運行；條件模型輸出(Ttl的模擬結果，立即將結果整合推送至NodeData中心，NodeData中心讀取條件模型的結果，並同步將其轉換為需求模型需要的格式輸入需求模型分節點及其備份節點；同時通知任務分配中心啟動需求模型，條件模型和需求模型兩者並行運行；條件模型繼續運行，不停的輸出結果、整合結果推送至NodeData，NodeData將其轉換為需求模型需要的數據格式；當需求模型的所有分塊節點完成(Ttl段的模擬後，其輸出(Ttl時段的模擬結果同時整合該結果推送至NodeData，NodeData判斷該需求模型是否為正在運行的其餘模型的條件模型，若是則將其結果轉換輸入到需求模型的需求模型，若不是，則只執行入庫操作；同時，需求模型準備進行tl+ Δ t段的模擬；此時先向自身的輸入文件夾中，檢測NodeData是否已將條件模型的tl+At段的模擬結果轉換為自身運行的輸入文件，若檢測到已存在tl+Δ t段的模擬結果條件，則讀取該結果條件文件繼續執行；若未檢測到輸出結果，則所有參與需求模型運算的節點的主體模擬程序掛起等待，直到檢測到條件模型運行的t2時刻輸出tl+At段的模擬結果以及轉換至自身的輸入文件夾，當需求模型的所有節點均讀取完輸入條件後，全部停止等待繼續執行需求模型中的主體模擬；如此反覆進行，直到所有節點完成模擬後輸出結果，模型運行過程中的輸出符合模型任務備份的規定。
[0016]作為優選，所述的模擬結果整合，模型輸出後按照各節點所對應的分塊的邏輯關係，進行結果整合，將分塊結果按時間段整合成一系列與時間相關的整體模擬結果文件，發送至數據中心，存儲在用戶的當前業務資料庫中。
[0017]作為優選，所述的模型任務備份與故障處理，參與運算的工作機都有一個備份機，對應的工作機上的所有節點在備份機上都有相同的設置；在作業中都有一個備份節點，作業節點t和備份節點b存儲的原始數據完全一致；當作業節點工作運行輸出時，同時輸出兩套模擬結果，一套輸入到作業節點的結果文件夾，另一套輸入備份節點文件夾，並對應的將模型運行心跳記錄輸入到運行日誌中，以供NodeMaster的故障檢測單元檢測；若故障檢測單元檢測到作業節點t的故障後，NodeMaster查找模型中心所有集群計算機的工作狀態，從中選擇一臺機器作為原備份節點b的備份節點bb，並將b中所有作業數據複製到bb，修改任務映射表，並立即啟動備份節點b ;備份節點b轉換為任務節點，根據日誌中所記載的模擬進度、讀取原作業節點t的條件模型的輸出數據從故障出現的時刻啟動運行。
[0018]作為優選，所述的客戶端業務中心是用戶與集群管理系統互動的主要紐帶，包括用戶驗證模塊、用戶需求指令分析與發送模塊和服務端推送信息展示模塊；
所述的用戶驗證模塊用於集群管理系統對用戶身份的驗證，驗證方式會根據用戶類型的不同而採用不同的驗證方式；普通客戶採用用戶名和密碼驗證，在任何可聯網的客戶端均可操作；專業用戶採用用戶名和密碼登陸驗證以及客戶端機器物理地址的雙重驗證方式，專業用戶包括技術人員、管理人員和政府職能人員，其在使用專業用戶帳號登陸時，必須使用在管理中心註冊過的客戶端上進行；
所述的用戶需求指令分析與發送模塊用於客戶端通過用戶在可視化平臺的操作記錄用戶需求、並實時的將用戶需求生成用戶指令發送至作業管理中心；用戶指令包括環境信息顯示需求、數值模擬計算需求、資料庫操作需求以及系統管理需求；
所述的服務端推送信息展示模塊用於客戶端接收其餘中心對所推送的用戶需求指令的響應計算結果，用圖、表、動畫形式向用戶展現。
[0019]本發明的方法所採用的技術方案是:一種多中心流域水環境管理的方法，其特徵在於:根據用戶的需求和環境管理需要包括集群業務化運行和用戶按需運行兩種方式；
1.所述的集群業務化運行方式，
集群管理系統具有對全流域智能化流線化的環境監控管理和數值模擬分析功能；管理中心每天定時自動啟動任務管理單元的業務化運行指令，任務管理單元向模型中心的模型條件節點發布業務運行指令，開展全流域的氣象、水文、水動力、水質和水生態模擬，業務化模擬的時長為以當前時刻至未來24小時，模擬數據存儲在數據中心的流域模型數據集中，主要包括以下步驟:
步驟Al:資料庫按時收集各測站數據，並從網上抓取氣象數據，以保證數據中心數據的最新；集群管理系統的作業管理中心在到達設定的自動模擬時間的時刻，開啟定時業務化模擬，由任務管理單元向模型中心的條件節點和數據中心下達作業命令；
步驟A2:數據中心接收到業務化運行命令，在數據中心建立最新任務的數據集，命名為jobt_time，並讀取最新的氣象數據和流域上下遊邊界條件的水動力與水質數據，發送給條件節點；
步驟A3:條件節點在接收到作業管理中心的命令後，在條件節點下的氣象模型子節點、陸地面源模型子節點、水動力水質水生態五套模型子節點分別拷貝一份模型需要的原始數據集，並命名為jobt_time ;如此時已經收到數據中心發送的數據，則對數據進行轉換，存入參與計算的各模型節點中；
步驟A4:條件節點啟動各子節點進行模型計算，計算時間為當前時刻至未來24小時，條件節點啟動模型符合併行啟動模式；各模型在運行過程中按分段控制運行方式進行控制；
步驟A5:各模型按時輸出結果，並推送至數據中心入庫存儲；
2.所述的用戶按需運行方式，
集群管理系統能滿足用戶不同範圍不同尺度不同時長的流域內局部精細模擬需要，以解決流域水環境管理中的實際應用文體，主要包括以下步驟:
步驟B1:用戶通過客戶端中心登錄集群管理系統、客戶端中心將用戶輸入的登錄信息發送至管理中心、請求登陸驗證；
步驟B2:管理中心接收到用戶請求，啟動安全管理單元；安全管理單元根據用戶名和專業用戶客戶端的機器物理地址進入存儲用戶信息的動態目錄驗證用戶，查看用戶所屬類另O，用戶客戶端機器授權類別，判斷是否非法請求，如是則拒絕用戶請求；若不是，則通過驗證，並生成用戶使用訪問伺服器的許可文件TaskAcc反饋給客戶端中心、TaskAcc文件包擴管理中心授權給用戶的使用權限、在線使用時長；管理中心掛起，等待用戶下一步命令；步驟B3:客戶端中心根據管理中心反饋的TaskAcc,判斷用戶類別、根據其TaskAcc的用戶使用權限與在線使用時長和向用戶打開集群管理系統的相關操作接口，同時提示用戶當前作業的時限與客戶端在用戶無響應時掛起的時間長度，以防止權限用戶離開業務機時間內被其他用戶非法操作；用戶操作客戶端界面，客戶端中心捕獲用戶的操作，生成用戶指令，並向管理中心發送指令；
步驟B4:管理中心在接收到用戶指令後，啟動任務分配單元先判斷是否有模型計算需求，如果無則執行普通的數據顯示燈操作；如果有判斷分析用戶要模擬的區域範圍(起始網格ijl到終止網格ij2)，模擬的時間T，要運行的模型類別，同時向數據中心和模型中心發送模型計算命令；
步驟B5:數據中心接收指令，根據用戶名以及模擬時間，在資料庫中建立當前用戶的實時人物文件及job_time，同時根據任務管理單元發布的模擬範圍，從整體網格中，選出涵蓋ijl到ij2的網格段，同時讀取ijl到ij2範圍內的點源入匯點、面源入匯點，從條件節點輸出的結果中提取出這些入匯點在T時段內的氣象、水量、水質和水生態數據以及模擬範圍的上下遊邊界條件，並發送給應用節點；
步驟B6:應用節點接收任務管理單元的命令，根據模型種類在節點中設置參與計算的子節點及其任務映射表，並設定臨時任務備份節點，在參與計算的子節點和備份節點中都建立複製包含所有原始輸入數據的文件夾，重命名為job_time ；
步驟B7:當應用節點接收到數據中心發送的數據後，根據已生成的任務映射表，將數據分別發送給各模型子節點，各模型子節點根據自身的需要，對接收到的網格數據進行分塊，同時將入匯點數據與網格分塊數據進行匹配，將數據輸入數據轉換輸出到每個分塊子節點及其備份節點的作業文件夾job_time中；
步驟B8:模型中心的應用節點開展模擬工作，節點模型在運行過程中定時向管理中心發送運行日誌，匯報運行狀態；並按時輸出中間結果，經結果整合後推送至數據中心入庫存儲。
[0020]步驟B9:數據中心接收模型中心推送的中間成果數據，轉換入庫存儲，同時根據任務管理單元命令中包含的要參與模擬計算的模型種類，判斷模型是否為條件模型與需求模型，若接收到的數據來自於條件模型，則將該結果轉換發送給模型中心應用節點中的需求模型；
步驟B10:需求模型接收數據中心傳來的其條件模型的模擬結果，根據分塊情況將數據分解轉換輸入到工作文件夾，按分段控制運行方式重複執行步驟B8和步驟B9，直到所有全部時間的模擬。
[0021]步驟Bll:管理中心分析模型中心推送的運行日誌，監控其運行情況，如有故障則進行故障處理；如模型中心運行完畢，則向客戶端中心反饋模擬結果完成的信息；客戶端中心接收該信息，提示用戶進行下一步的分析與環境評價操作；
步驟B12:用戶根據需要，在客戶端中心選擇要進行操作，如進行環境狀況評價與未來趨勢分析預測或開展環境決策分析，客戶端中心將用戶的需求發送至管理中心，管理中心根據用戶的需求，反饋相應的結果，輔助用戶進行流域水環境管理。
[0022]本發明針對當前流域環境管理領域的現狀、將網際網路與計算機領域的集群計算技術經過改造後應用於流域環境管理，以實現對流域內已有軟硬體數據資源的集成整合，形成環境資源池和雲中心，開發全套分布式並行計算的涵蓋流域空地水全過程的數值模型，解決了環境大數據的生產問題、共享問題、管理問題以及應用問題，為實現流域環境的高效快速管理提供了技術支撐，保障流域水環境安全。
[0023]

【專利附圖】

【附圖說明】
[0024]圖1:是本發明實施例的系統部署結構示意圖；
圖2:是本發明實施例的數據中心的數據轉換處理流程圖；
圖3:是本發明實施例的模型中心的數據分塊流程；
圖4:是本發明實施例的模型中心的分布式運行流程；
圖5:是本發明實施例的模型中心的模型分段運行控制方式示意圖；
圖6:是本發明實施例的模型中心任務備份與故障處理流程圖；
圖7:是本發明實施例的集群體系整體實現流程圖。
[0025]

【具體實施方式】
[0026]為了便於本領域普通技術人員理解和實施本發明，下面結合附圖及實施例對本發明作進一步的詳細描述，應當理解，此處所描述的實施示例僅用於說明和解釋本發明，並不用於限定本發明。
[0027]本發明主要為整合流域內水環境管理相關的各單位各部門的硬體資源和數據資源，形成流域水環境管理的數據資源池和計算服務資源池，構建包括全流域的業務中心、數據中心、模型中心和決策服務中心的流域水環境管理分布式集群服務體系，克服傳統流域模型體系模擬運算速度慢效率低以及資源重複建設浪費的問題，提供具備數據管理服務、流域氣象-陸地面源-水動力-水質-水生態-突發事件的數值快速高效模擬以及專家決策支持的業務系統，為全流域的水環境的管理、現狀評價、未來趨勢預測以及突發事件應急模擬與決策提供技術保障與業務支持，保障流域水環境安全。
[0028]參見圖1、圖7，本發明的多中心流域水環境分布式集群管理系統，主要包括系統作業管理中心(簡稱管理中心，NodeMaster)、數據分布式集成中心(簡稱數據中心，NodeData)、數值模擬中心(簡稱模型中心，NodeModel)、環境決策支持服務中心(簡稱決策中心，NodeDesign)和客戶端業務中心(簡稱客戶端中心，NodeClient)五個中心，其功能分別說明如下:
1.客戶端中心:
是面向普通群眾的互聯客戶端中心，對客戶端提供環境狀態信息、水環境警情信息、風險規避方式與防災信息的發布以及一定權限內的水環境模擬分析服務；同時設置市民報警模塊，實時接收、分析、處理與上報客戶端用戶的警情匯報信息，實現水環境管理的全民參與。客戶端業務中心是基於C/S架構的跨平臺的業務端系統，是用戶與系統互動的主要紐帶，包括用戶驗證模塊、用戶需求指令分析與發送模塊和服務端推送信息展示模塊；
用戶驗證模塊用於集群管理系統對用戶身份的驗證，驗證時根據用戶類型的不同而採用不同的驗證方式；普通客戶採用用戶名和密碼驗證，在任何可聯網的客戶端均可操作；專業用戶採用用戶名和密碼登陸驗證以及客戶端機器物理地址的雙重驗證方式，專業用戶包括技術人員、管理人員和政府職能人員，其在使用專業用戶帳號登陸時，必須使用在管理中心註冊過的客戶端上進行；
用戶需求指令分析與發送模塊用於客戶端通過用戶在可視化平臺的操作記錄用戶需求、並實時的將用戶需求生成用戶指令發送至作業管理中心；用戶指令包括環境信息顯示需求、數值模擬計算需求、資料庫操作需求以及系統管理需求；
服務端推送信息展示模塊用於客戶端接收其餘中心對所推送的用戶需求指令的響應計算結果，用圖、表、動畫形式向用戶展現。
[0029] 2.管理中心:
是集群管理系統的業務分配管理與系統狀態評估中心，是進行系統業務部署與作業分配的主節點，使集群管理系統中的伺服器和工作站、計算器能協同分工合作，並實時記錄接收與可視化展現集群管理系統中運行計算機的工作狀態，快速發現定位運行故障、恢復系統正常運行，實現集群管理系統的自動化、智能化業務處理；
管理中心包括任務分配單元、任務監控單元、故障處理單元、安全管理單元、實時備份單元和結果反饋單元；
安全管理單元用於保證集群管理系統安全運行、阻止非權限用戶以及不正常訪問用戶或惡意用戶使用集群管理系統、提交作業、查看修改數據的安全屏障，通過用戶名、密碼以及秘鑰的方式進行雙重認證；
任務分配單元用於依據驗證用戶的指令需要，對集群管理系統中的各節點進行任務分配，是管理與分配模型中心的各功能節點開展業務計算的重要單元；任務分配單元接收到用戶的指令後，對指令進行分析，辨別用戶要使用的功能，並相應的啟動數據中心和模型中心的功能模塊；
任務監控單元是系統作業管理中心實時獲知模型中心各任務節點運行狀態的重要部分；任務監控單元通過兩種方式實現對計算節點的任務監控；一種是主動監控，採用心跳檢測方案，在節點運行中，任務監控單元讀取任務映射關係表中在執行任務的節點，定時向其發送ping，以判斷其連接和運行的正常性；一種是被動監控，即心跳報告的模式，計算節點在計算中，定時將自己的運行狀態反饋給任務監控單元；任務監控單元在收到節點的反饋信息後，將對應的節點計算機運行狀況、運行進展情況生成運行日誌，存儲在系統作業管理中心的運行日誌資料庫中；若在主動檢測中，收不到目標節點的消息或在被動檢測中收到目標節點報告運算錯誤的消息，任務監控單元在存儲其運行日誌的同時，激活故障處理單元，開展下一步的故障處理；
故障處理單元用於當故障處理單元激活後，查詢分析運行日誌，判斷故障節點出現運行錯誤的原因；在主動檢測中收不到目標節點的反饋或收到運行錯誤的被動監測信息，判斷該節點與管理中心是否失聯或程序故障，一方面通知管理員進一步人工檢測失聯原因與故障問題，另一方面根據與失聯節點的最近的運行記錄，激活其備份節點，在運行日誌記錄的情況下，繼續運行模型，同時查看映射關係表，找到當前情況下空閒的節點，複製所有有關的輸入數據，將其作為該備份節點的備份節點，修改映射關係表；
模型輸出檢測單元是在任務分配單元分配模擬任務後，對模型的輸出結果進行監控的單元，其作用是判斷模型輸出是否正常、是否有輸出，並將結果反饋給任務分配單元，從而協助任務分配單元在需要多個模型進行遞進並行運行模式時，實時的啟動相關模型；
實時備份單元用於承擔系統作業管理中心運行指令、映射關係表以及數值運行日誌的備份單元，是為當管理節點出現故障時，能快速重新修復集群管理系統，保障集群管理系統服務更加可靠的安全措施；在管理中心工作中，實時定時將NodeMaster的所有運行文件備份在NodeMaster的備份節點上；
結果反饋單元用於根據用戶指令、任務映射關係表以及系統運行日誌，將用戶請求的數據信息或模型模擬計算結果推送至業務客戶端進行模擬結果的展示。
[0030]3.數據中心:
是集群管理系統的數據存儲與數據集成模塊，實現對水環境風險資料庫歷史數據的存儲管理，基於物聯網技術自動或半自動的不斷獲取、整理自動監測站數據以及人工監測的水文、水質和氣象數據；整合不同格式、不同來源和不同性質的環境數據，實現流域數據的分布式集成，為數據計算與分析及客戶端中心顯示提供數據支撐；
數據中心由各參與集群的單位已有的或新建的資料庫構成，其基本組成包括數據存儲單元、數據管理單元和模型數據處理單元；
數據存儲單元用於存儲流域水環境相關的數據，數據存儲單元中由連入集群管理系統的不同區域不同部門的數據節點組成、所有數據節點獨立運行、資源共享，組成集群管理系統的數據池；數據節點中的數據類型包括用戶數據，基礎地理數據、社會經濟數據、水質數據、水文數據、氣象數據、流域整體粗細網格、模型參數以及模型模擬結果數據；所有數據按統一規範要求進行存儲；
所述的數據管理單元是提供用戶增加、刪除、修改、更新資料庫的主要數據管理功能單元，除具有常規的資料庫的管理功能外，還針對水環境數據的特點，設置有數據校核功能，所有新添加的數據在輸入資料庫前，均要求人工校核，以確保數據的準確無誤；校核過程包括閾值範圍分析、趨勢分析、對應關係分析；閾值分析是當輸入數據超出該閾值範圍內時，提示警告信息，並提醒數據管理人員進行數據的校核預處理；趨勢分析，則通過輸入數據的數值趨勢線，查看其一定時間內的數據隨時間的變化趨勢，若發現錯誤數據，要進行原始數據的進一步查驗校核；對應關係分析則是在GIS地圖上顯示數據中的測站、入匯口的地理位置在整個流域的位置是否準確；
所述的模型數據處理單元有兩個基本的功能。一是根據任務分配單元的命令，依據計算範圍和計算時間，從資料庫提取出滿足計算範圍和計算時間需要的數據，並傳送給模型中心；另一個是接收模型中心傳送過來的數據，並轉換為資料庫文件進行入庫存儲。
[0031]請見圖2，數據中心的數據轉換處理為:
①在NodeData接收到NodeMaster的任務分配單元的數據分塊任務後,根據用戶模擬範圍和模擬時間，從流域整體網格範圍圖中灰色實現包裹區域)中提取出模擬範圍網格虛線包裹區域)；
②根據的網格範圍，搜索網格入匯點索引文件，根據入口IJ號找到屬於的網格範圍入匯點(圖2中虛框區域內的原點)編號；根據ijl和ij2所在整體網格中的位置，查找該位置在整體粗網格中的位置upij和downij ；
③根據入匯點編號以及模擬時間T，從氣象水文水質資料庫和條件模型的模擬結果庫中檢索含有入匯點編號的數據文件，並提取出對應模擬時間段內的數據文件，作為點面源入匯文件數據。
[0032]④根據upij和donwij,在條件模型的模擬結果庫中檢索出其upij對應的T時段內的流量、水質水生態數據和donwij的水位數據，作為局部區域模擬的邊界條件數據；
⑤將檢索到的所有文件，發送給NodeModel中對應的模型節點，等待NodeModel運行輸出推送模擬結果；
⑥接收NodeModel的推送結果,並轉換存入當前作業的數據集中。
[0033]4.模型中心:
是集群管理系統中進行數數值模擬計算的中心，包括一套模型條件節點和一套模型應用節點；集成流域水環境模型庫，能開展流域氣象模型、陸地面源模型、水動力模型、水質模型、水生態模型以及突發事件的水環境數值模型的模擬；所述的數據中心在系統作業管理中心的統一分配下，按照水環境數值模擬的區域分解和功能分解兩種任務分解方式實現分布式計算和通訊；實時、快速的開展數據計算工作，為環境決策支持服務中心的環境決策分析提供支撐；
模型中心是本發明的計算核心部分，由集群計算器中所有參與計算的計算機構成，包括一個模型池，模型池包括一套模型條件節點和一套模型應用節點；其中模型條件節點包括流域氣象模型、陸地面源模型、水動力模型、水質模型以及水生態模型；模型應用節點包括水動力模型、水質模型、水生態模型突發事件模型；所包括的模型組成了流域中大氣-陸地-水體全套循環的數值模擬體系，即能開展全流域的整體模擬，也能在局部進行具體作業分析；模型池在在模型中心的集群計算機上採用模型冗餘部署方式進行部署，應用模型節點在運行過程錢，根據自身需求進行區域分塊和數據轉換，所有模型採用遞進並行啟動模式啟動，模型運行過程中採用分段控制運行方式進行，模型運行過程中進行模型任務備份與故障處理，模型運行過程中的輸入通過數據整合的方式將模擬結果推送至數據集成中心保存。
[0034]模型冗餘部署方式:模型中心主要的文件包括有模型的可執行程序以及對應於模型的輸入數據和輸出數據。考慮到模型運行中的故障備份、節點任務遷移以及模型彼此之間的頻繁數據交換關係，全套模型及其數據在模型子節點及其備份節點上都存儲有無差異性的模型和原始數據的備份存儲，當前作業的節點的輸出數據分別向作業節點文件夾與備份節點文件夾中輸出。
[0035]區域分塊和數據轉換:如圖3所示，
①在NodeModel的應用節點接收到NodeData的數據後，將對應的數據分配到各模型，各模型獨自對模擬範圍進行分析，判斷是否需要進行分塊並行運算，若需要則將的進行等分，分為N塊(此處假定N=3)，將分塊結果反饋給應用節點；
②應用節點依據各模型反饋的分塊數N，在模型分節點計算機上新開闢應用節點，每個節點對應一個分區，啟動分塊轉換程序；
③分塊轉換程序從模擬範圍網格中劃分出確定的分塊網格Z1、Z2、Z3，並建立節點與節點之間的關係文件，將上遊邊界文件輸入上遊分塊對應的節點文件夾、下遊邊界文件輸入下遊分塊對應的節點文件夾；
④根據Z1，Z2，Z3的網格範圍，搜索NodeData傳入的入匯點數據，根據入口IJ號確定入匯點與分塊網格的歸屬關係，找到屬於zi，Z2，Z3範圍內的入匯點，並按照模型要求的格式輸入到任務分配單元指定的節點及其備份節點的模型輸入文件夾中。
[0036]遞進並行啟動模式:如圖4所示，
該模式是一種在時間上存在一定的間隔，不是同時啟動所有模型的並行方式，這種方式考慮到模型之間的耦合關係，模型之間常存在一種模型的輸出結果將作為另一類模型的邊界而存在，因此通過一定的時間差分別遞進的啟動模型，以減少整個系統的等待時間提高整體運行效率的並行方式；氣象模型為陸地面源模型、水動力模型、水質模型、水生態模型以及突發事件模型提供氣象邊界，面源模型為水動力模型提供流量入匯條件，為水質模型提供水質入匯條件，為水生態模型提供生物量入匯條件；水動力模型的模擬結果則為水質模型與水生態模型和突發事件模型提供水動力條件；因此在分布式並行中，讓提供邊界條件的模型(這裡稱為條件模型)先運行，而需要讀取邊界模型的邊界結果的模型(這裡稱為需求模型)的則等待其執行，在邊界模型按照輸出規則輸出一定時間段內的結果並經數據中心轉換輸入到需求模型後，數據中心將完成情況反饋給任務分配單元，任務分配單元分配任務給需求模型，需求模型啟動讀取該更新結果進行運行，依次類推完成所有模型節點的啟動；需求模型啟動後採用分時控制運行方式進行運行，最終模型中心的所有模型形成穩定的遞進關係，達到所有模型並行執行的效果；在分布式並行運行中，各模型獨立運行，需求模型與條件模型的數據關係按照分段控制運行方式控制。
[0037]分段控制運行方式:如圖5所示，
由於條件模型和需求模型同步運行，設定所有模型的模擬結果在每隔同一個輸出時間步長Δ t輸出模擬結果，因此相對於條件模型，需求模型在啟動後，內部的條件檢測模塊在新的模擬步長開始前需不斷地檢測條件模型的輸出結果是否已經過NodeData中心轉換輸入到自身的輸入文件夾中，以支持其運行。如圖中，條件模型輸出(Ttl的模擬結果，立即將結果整合推送至NodeData中心,NodeData中心讀取條件模型的結果,並同步將其轉換為需求模型需要的格式輸入需求模型分節點及其備份節點；同時通知任務分配中心啟動需求模型，條件模型和需求模型兩者並行運行。條件模型繼續運行，不停的輸出結果、整合結果推送至NodeData，NodeData將其轉換為需求模型需要的數據格式。當需求模型的所有分塊節點完成(Ttl段的模擬後，其輸出(Ttl時段的模擬結果同時整合該結果推送至NodeData，NodeData判斷該需求模型是否為正在運行的其餘模型的條件模型，若是則將其結果轉換輸入到需求模型的需求模型，若不是，則只執行入庫操作；同時，需求模型準備進行tl+ Δ t段的模擬。此時先向自身的輸入文件夾中，檢測NodeData是否已將條件模型的tl+Δ t段的模擬結果轉換為自身運行的輸入文件，若檢測到已存在tl+Δ t段的模擬結果條件，則讀取該結果條件文件繼續執行；若未檢測到輸出結果，則所有參與需求模型運算的節點的主體模擬程序掛起等待，直到檢測到條件模型運行的t2時刻輸出tl+At段的模擬結果以及轉換至自身的輸入文件夾，當需求模型的所有節點均讀取完輸入條件後，全部停止等待繼續執行需求模型中的主體模擬；如此反覆進行，直到所有節點完成模擬後輸出結果，模型運行過程中的輸出符合模型任務備份的規定。
[0038]模型任務備份與故障處理:如圖6所示，
參與運算的工作機都有一個備份機，對應的工作機上的所有節點在備份機上都有相同的設置；在作業中都有一個備份節點，作業節點t和備份節點b存儲的原始數據完全一致；當作業節點工作運行輸出時，同時輸出兩套模擬結果，一套輸入到作業節點的結果文件夾，另一套輸入備份節點文件夾，並對應的將模型運行心跳記錄輸入到運行日誌中，以供NodeMaster的故障檢測單元檢測；若故障檢測單元檢測到作業節點t的故障後，NodeMaster查找模型中心所有集群計算機的工作狀態,從中選擇一臺機器作為原備份節點b的備份節點bb，並將b中所有作業數據複製到bb，修改任務映射表，並立即啟動備份節點b ;備份節點b轉換為任務節點，根據日誌中所記載的模擬進度、讀取原作業節點t的條件模型的輸出數據從故障出現的時刻啟動運行。
[0039]模擬結果整合:模型輸出後按照各節點所對應的分塊的邏輯關係，進行結果整合，將分塊結果按時間段整合成一系列與時間相關的整體模擬結果文件，發送至數據分布式集成中心，存儲在用戶的當前業務資料庫中。
[0040]6.環境決策支持服務中心:
是面向環境管理部門的環境決策客戶端中心，基於數值模擬中心的水環境模擬結果利用客戶端業務中心進行可視化展示，以全面的了解流域環境狀況和未來趨勢；同時在數據分布式集成中心的智能專家決策知識庫的協助下，進行水環境風險決策優化，為環境管理部門提供決策支持服務；
由此，本發明的服務系統是業務化運行的集群服務系統，其完整的用戶與系統交互的過程的執行步驟按照系統業務化運行和用戶需求啟動的方式進行。根據用戶的需求和環境管理需要包括集群業務化運行和用戶按需運行兩種方式，如圖7所示；
1.所述的集群業務化運行方式，
集群管理系統具有對全流域智能化流線化的環境監控管理和數值模擬分析功能；管理中心定時自動啟動任務管理單元的業務化運行指令，任務管理單元向模型中心的模型條件節點發布業務運行指令，開展全流域的氣象、水文、水動力、水質和水生態模擬，業務化模擬的時長為以當前時刻至未來24小時，模擬數據存儲在數據中心的流域模型數據集中，主要包括以下步驟:
步驟Al:資料庫按時收集各測站數據，並從網上抓取氣象數據，以保證數據中心數據的最新；集群管理系統的作業管理中心在到達設定的自動模擬時間的時刻，開啟定時業務化模擬，由任務管理單元向模型中心的條件節點和數據中心下達作業命令；
步驟A2:數據中心接收到業務化運行命令，在數據中心建立最新任務的數據集，命名為jobt_time，並讀取最新的氣象數據和流域上下遊邊界條件的水動力與水質數據，發送給條件節點；
步驟A3:條件節點在接收到作業管理中心的命令後，在條件節點下的氣象模型子節點、陸地面源模型子節點、水動力水質水生態五套模型子節點分別拷貝一份模型需要的原始數據集，並命名為jobt_time ;如此時已經收到數據中心發送的數據，則對數據進行轉換，存入參與計算的各模型節點中；
步驟A4:條件節點啟動各子節點進行模型計算，計算時間為以當前時刻至未來24小時，條件節點啟動模型符合併行啟動模式；各模型在運行過程中按分段控制運行方式進行控制；
步驟A5:各模型按時輸出結果，並推送至數據中心入庫存儲；
2.所述的用戶按需運行方式， 集群管理系統能滿足用戶不同範圍不同尺度不同時長的流域內局部精細模擬需要，以解決流域水環境管理中的實際應用文體，主要包括以下步驟:
步驟B1:用戶通過客戶端中心登錄集群管理系統、客戶端中心將用戶輸入的登錄信息發送至管理中心、請求登陸驗證；
步驟B2:管理中心接收到用戶請求，啟動安全管理單元；安全管理單元根據用戶名和專業用戶客戶端的機器物理地址進入存儲用戶信息的動態目錄驗證用戶，查看用戶所屬類另O，用戶客戶端機器授權類別，判斷是否非法請求，如是則拒絕用戶請求；若不是，則通過驗證，並生成用戶使用訪問伺服器的許可文件TaskAcc反饋給客戶端中心、TaskAcc文件包括管理中心授權給用戶的使用權限、在線使用時長；管理中心掛起，等待用戶下一步命令；步驟B3:客戶端中心根據管理中心反饋的TaskAcc,判斷用戶類別、根據其TaskAcc的用戶使用權限與在線使用時長和向用戶打開集群管理系統的相關操作接口，同時提示用戶當前作業的時限與客戶端在用戶無響應時掛起的時間長度，以防止權限用戶離開業務機時間內被其他用戶非法操作；用戶操作客戶端界面，客戶端中心捕獲用戶的操作，生成用戶指令，並向管理中心發送指令；
步驟B4:管理中心在接收到用戶指令後，啟動任務分配單元先判斷是否有模型計算需求，如果無則執行普通的數據顯示燈操作；如果有判斷分析用戶要模擬的區域範圍(起始網格ijl到終止網格ij2)，模擬的時間T，要運行的模型類別，同時向數據中心和模型中心發送模型計算命令；
步驟B 5:數據中心接收指令，根據用戶名以及模擬時間，在資料庫中建立當前用戶的實時人物文件及job_time，同時根據任務管理單元發布的模擬範圍，從整體網格中，選出涵蓋ijl到ij2的網格段，同時讀取ijl到ij2範圍內的點源入匯點、面源入匯點，從條件節點輸出的結果中提取出這些入匯點在T時段內的氣象、水量、水質和水生態數據以及模擬範圍的上下遊邊界條件，並發送給應用節點；
步驟B6:應用節點接收任務管理單元的命令，根據模型種類在節點中設置參與計算的子節點及其任務映射表，並設定臨時任務備份節點，在參與計算的子節點和備份節點中都建立複製包含所有原始輸入數據的文件夾，重命名為job_time ；
步驟B7:當應用節點接收到數據中心發送的數據後，根據已生成的任務映射表，將數據分別發送給各模型子節點，各模型子節點根據自身的需要，對接收到的網格數據進行分塊，同時將入匯點數據與網格分塊數據進行匹配，將數據輸入數據轉換輸出到每個分塊子節點及其備份節點的作業文件夾job_time中；
步驟B8:模型中心的應用節點開展模擬工作，節點模型在運行過程中定時向管理中心發送運行日誌，匯報運行狀態；並按時輸出中間結果，經結果整合後推送至數據中心入庫存儲。
[0041]步驟B9:數據中心接收模型中心推送的中間成果數據，轉換入庫存儲，同時根據任務管理單元命令中包含的要參與模擬計算的模型種類，判斷模型是否為條件模型與需求模型，若接收到的數據來自於條件模型，則將該結果轉換發送給模型中心應用節點中的需求模型；
步驟B10:需求模型接收數據中心傳來的其條件模型的模擬結果，根據分塊情況將數據分解轉換輸入到工作文件夾，按分段控制運行方式重複執行步驟B8和步驟B9，直到所有全部時間的模擬。
[0042]步驟Bll:管理中心分析模型中心推送的運行日誌，監控其運行情況，如有故障則進行故障處理；如模型中心運行完畢，則向客戶端中心反饋模擬結果完成的信息；客戶端中心接收該信息，提示用戶進行下一步的分析與環境評價操作；
步驟B12:用戶根據需要，在客戶端中心選擇要進行操作，如進行環境狀況評價與未來趨勢分析預測或開展環境決策分析，客戶端中心將用戶的需求發送至管理中心，管理中心根據用戶的需求，反饋相應的結果，輔助用戶進行流域水環境管理。
[0043]本發明公開了一種多中心流域水環境分布式集群管理系統及方法，該系統是一個針對流域水環境風險預警管理多中心、多需求和大數據的面向服務的集群構架系統。本系統構建了不同管理級別和職能級別的系統作業管理中心、數值模擬中心、數據中心、決策指揮中心和客戶端業務中心。通過不同中心的分工協作，能整合流域水環境各單位各中心的計算機資源、形成資源池、並針對流域各單位各中心的職能按需提供服務，能克服傳統流域模型體系由於串行計算引起的等待時間損耗、流域尺度模擬運算速度慢效率低以及資源重複建設浪費的問題，極大的提高流域水環境模擬的模擬效率、整合全流域的硬體資源和數據資源、實現全流域的水環境的管理、現狀評價、未來趨勢預測以及突發事件應急模擬與決策支持，保障流域水環境安全。
[0044]應當理解的是，本說明書未詳細闡述的部分均屬於現有技術。
[0045]應當理解的是，上述針對較佳實施例的描述較為詳細，並不能因此而認為是對本發明專利保護範圍的限制，本領域的普通技術人員在本發明的啟示下，在不脫離本發明權利要求所保護的範圍情況下，還可以做出替換或變形，均落入本發明的保護範圍之內，本發明的請求保護範圍應以所附權利要求為準。
【權利要求】
1.一種多中心流域水環境分布式集群管理系統，其特徵在於:包括系統作業管理中心、數據分布式集成中心、數值模擬中心、環境決策支持服務中心和客戶端業務中心； 所述的系統作業管理中心(簡稱管理中心，NodeMaster)為集群管理系統的業務分配管理與系統狀態評估中心，是進行系統業務部署與作業分配的主節點，使集群管理系統中的伺服器和工作站、計算器能協同分工合作，並實時記錄接收與可視化展現集群管理系統中運行計算機的工作狀態，快速發現定位運行故障、恢復系統正常運行，實現集群管理系統的自動化、智能化業務處理； 所述的數據分布式集成中心(簡稱數據中心，NodeData)是集群管理系統的數據存儲與數據集成模塊，實現對水環境風險資料庫歷史數據的存儲管理，基於物聯網技術自動或半自動的不斷獲取、整理自動監測站數據以及人工監測的水文、水質和氣象數據；整合不同格式、不同來源和不同性質的環境數據，實現流域數據的分布式集成，為數據計算與分析及客戶端業務中心顯示提供數據支撐； 所述的數值模擬中心(簡稱模型中心，NodeModel)是集群管理系統中進行數值模擬計算的中心，包括一套模型條件節點和一套模型應用節點；集成流域水環境模型庫，能開展流域氣象模型、陸地面源模型、水動力模型、水質模型、水生態模型以及突發事件的水環境數值模型的模擬；所述的數據中心在系統作業管理中心的統一分配下，按照水環境數值模擬的區域分解和功能分解兩種任務分解方式實現分布式計算和通訊；實時、快速的開展數據計算工作，為環境決策支持服務中心的環境決策分析提供支撐； 所述的環境決策支持服務中心(簡稱決策中心，NodeDesign)是面向環境管理部門的環境決策客戶端中心，基於數據中心的水環境模擬結果利用客戶端業務中心進行可視化展示，以全面的了解流域環境狀況和未來趨勢；同時在數據中心的智能專家決策知識庫的協助下，進行水環境風險決策優化，為環境管理部門提供決策支持服務； 所述的客戶端業務中心(簡稱客戶端中心，NodeClient)是面向普通大眾的互聯客戶端中心，對客戶端提供環境狀態信息、水環境警情信息、風險規避方式與防災信息的發布以及水環境模擬分析服務；同時設置普通大眾報警模塊，實時接收、分析、處理與上報客戶端用戶的警情匯報信息，實現水環境管理的全民參與。
2.根據權利要求1所述的多中心流域水環境分布式集群管理系統，其特徵在於:所述的系統作業管理中心包括任務分配單元、任務監控單元、故障處理單元、安全管理單元、實時備份單元和結果反饋單元； 所述的安全管理單元用於保證集群管理系統安全運行、阻止非權限用戶以及不正常訪問用戶或惡意用戶使用集群管理系統、提交作業、查看修改數據的安全屏障，通過用戶名、密碼以及秘鑰的方式進行雙重認證； 所述的任務分配單元用於依據驗證用戶的指令需要，對集群管理系統中的各節點進行任務分配，是管理與分配模型中心的各功能節點開展業務計算的重要單元；任務分配單元接收到用戶的指令後，對指令進行分析，辨別用戶要使用的功能，並相應的啟動模型中心和數據中心的功能模塊； 所述的任務監控單元是系統作業管理中心實時獲知模型中心各任務節點運行狀態的重要部分；任務監控單元通過兩種方式實現對計算節點的任務監控；一種是主動監控，採用心跳檢測方案，在節點運行中，任務監控單元讀取任務映射關係表中在執行任務的節點，定時向其發送ping，以判斷其連接和運行的正常性；一種是被動監控，即心跳報告的模式，計算節點在計算中，定時將自己的運行狀態反饋給任務監控單元；任務監控單元在收到節點的反饋信息後，將對應的節點計算機運行狀況、運行進展情況生成運行日誌，存儲在系統作業管理中心的運行日誌資料庫中；若在主動檢測中，收不到目標節點的消息或在被動檢測中收到目標節點報告運算錯誤的消息，任務監控單元在存儲其運行日誌的同時，激活故障處理單元，開展下一步的故障處理； 所述的故障處理單元用於當故障處理單元激活後，查詢分析運行日誌，判斷故障節點出現運行錯誤的原因；在主動檢測中收不到目標節點的反饋或收到運行錯誤的被動監測信息，判斷該節點與管理中心是否失聯或程序故障，一方面通知管理員進一步人工檢測失聯原因與故障問題，另一方面根據與失聯節點的最近的運行記錄，激活其備份節點，在運行日誌記錄的情況下，繼續運行模型，同時查看映射關係表，找到當前情況下空閒的節點，複製所有有關的輸入數據，將其作為該備份節點的備份節點，修改映射關係表； 所述的模型輸出檢測單元是在任務分配單元分配模擬任務後，對模型的輸出結果進行監控的單元，其作用是判斷模型輸出是否正常、是否有輸出，並將結果反饋給任務分配單元，從而協助任務分配單元在需要多個模型進行遞進並行運行模式時，實時的啟動相關模型； 所述的實時備份單元用於承擔系統作業管理中心運行指令、映射關係表以及數值運行日誌的備份單元，是為當管理節點出現故障時，能快速重新修復集群管理系統，保障集群管理系統服務更加可靠的安全措施；在管理中心工作中，實時定時將管理中心的所有運行文件備份在管理中心的備份節點上； 所述的結果反饋單元用於根據用戶指令、任務映射關係表以及系統運行日誌，將用戶請求的數據信息或模型模擬計算結果推送至業務客戶端進行模擬結果的展示。
3.根據權利要求1所述的多中心流域水環境分布式集群管理系統，其特徵在於:所述的數據分布式集成中心包括數據存儲單元、數據管理單元和模型數據處理單元； 所述的數據存儲單元用於存儲流域水環境相關的數據，數據存儲單元中由連入集群管理系統的不同區域不同部門的數據節點組成、所有數據節點獨立運行、資源共享，組成集群管理系統的數據池；數據節點中的數據類型包括用戶數據、基礎地理數據、社會經濟數據、水質數據、水文數據、氣象數據、流域整體粗細網格、模型參數以及模型模擬結果數據；所有數據按統一規範要求進行存儲； 所述的數據管理單元是提供用戶增加、刪除、修改、更新資料庫的主要數據管理功能單元，除具有常規的資料庫的管理功能外，還針對水環境數據的特點，設置有數據校核功能，所有新添加的數據在輸入資料庫前，均要求人工校核，以確保數據的準確無誤；校核過程包括閾值範圍分析、趨勢分析、對應關係分析；閾值分析是當輸入數據超出該閾值範圍內時，提示警告信息，並提醒數據管理人員進行數據的校核預處理；趨勢分析，則通過輸入數據的數值趨勢線，查看其一定時間內的數據隨時間的變化趨勢，若發現錯誤數據，要進行原始數據的進一步查驗校核；對應關係分析則是在GIS地圖上顯示數據中的測站、入匯口的具體地理位置屬性的數據在整個流域的位置是否準確； 所述的模型數據處理單元有兩個基本的功能，一是根據任務分配單元的命令，依據計算範圍和計算時間，從資料庫提取出滿足計算範圍和計算時間需要的數據，並傳送給模型中心；另一個是接收模型中心傳送過來的數據，並轉換為資料庫文件進行入庫存儲。
4.根據權利要求1所述的多中心流域水環境分布式集群管理系統，其特徵在於:所述的模型中心包括模型池，模型池中有兩套模型節點，一套是模型條件節點、另一套是模型應用節點；在兩套模型節點中包含有不同功能的數值模型，模型條件節點是針對全流域模擬需求而設定的模擬節點，由氣象模型、陸地面源模型、水動力模型、水質模型和水生態模型組成；模型應用節點由水動力模型、水質模型、水生態模型和突發事件模型組成；每套模型對應有固定的子節點，且在模型子節點開展作業時，預設一套進行功能和數據備份的臨時備份節點；模型條件節點主要的功能是實現對流域整體的水環境模擬，從而為模型應用節點提供模型需要的氣象條件、面源入匯條件和水動力水質邊界條件，具有定時業務化運行方式和用戶請求運行方式；模型應用節點是針對用戶局部精細模擬需求，解決實際應用問題而設置的模型節點，其運行方式由用戶需求決定；模型條件節點和模型應用節點之間不直接進行數據交換和文件共享，模型條件節點的結果數據通過數據中心存儲，在模型應用節點需要的時候，輸入模型應用節點對應的文件中；兩套模型節點的模型均採用遞進並行啟動模式，啟動後的模型控制採用分段控制運行方式進行。
5.根據權利要求4所述的多中心流域水環境分布式集群管理系統，其特徵在於:所述的遞進並行啟動模式，該模式是一種在時間上存在一定的間隔，不是同時啟動所有模型的並行方式，這種方式考慮到模型之間的耦合關係，模型之間常存在一種模型的輸出結果將作為另一類模型的邊界而存在，因此通過一定的時間差分別遞進的啟動模型，以減少整個系統的等待時間提高整體運行效率的並行方式；氣象模型為陸地面源模型、水動力模型、水質模型、水生態模型以及突發事件模型提供氣象邊界，面源模型為水動力模型提供流量入匯條件，為水質模型提供水質入匯條件，為水生態模型提供生物量入匯條件；水動力模型的模擬結果則為水質模型與水生態模型和突發事件模型提供水動力條件；因此在分布式並行中，讓提供邊界條件的模型(這裡稱為條件模型)先運行，而需要讀取邊界模型的邊界結果的模型(這裡稱為需求模型)的則等待其執行，在邊界模型按照輸出規則輸出一定時間段內的結果並經數據中心轉換輸入到需求模型後，數據中心將完成情況反饋給任務分配單元，任務分配單元將任務分配給需求模型，需求模型啟動讀取該更新結果進行運行，依次類推完成所有模型節點的啟動；需求模型啟動後採用分時控制運行方式進行運行，最終模型中心的所有模型形成穩定的遞進關係，達到所有模型並行執行的效果；在分布式並行運行中，各模型獨立運行，需求模型與條件模型的數據關係按照分段控制運行方式控制。
6.根據權利要求5述的多中心流域水環境分布式集群管理系統，其特徵在於:所述的分段控制運行方式，是模型在遞進並行啟動後的並行控制方式；由於條件模型和需求模型同步運行，設定所有模型的模擬結果在每隔同一個輸出時間步長At輸出模擬結果，因此相對於條件模型，需求模型在啟動後，內部的條件檢測模塊在新的模擬步長開始前需不斷地檢測條件模型的輸出結果是否已經過NodeData中心轉換輸入到自身的輸入文件夾中，以支持其運行；條件模型輸出(Ttl的模擬結果，立即將結果整合推送至NodeData中心，NodeData中心讀取條件模型的結果，並同步將其轉換為需求模型需要的格式輸入需求模型分節點及其備份節點；同時通知任務分配中心啟動需求模型，條件模型和需求模型兩者並行運行；條件模型繼續運行，不停的輸出結果、整合結果推送至NodeData，NodeData將其轉換為需求模型需要的數據格式；當需求模型的所有分塊節點完成(Ttl段的模擬後，其輸出(Ttl時段的模擬結果同時整合該結果推送至NodeData，NodeData判斷需求模型是否為正在運行的其餘模型的條件模型，若是則將其結果轉換輸入到需求模型的需求模型，若不是，則只執行入庫操作；同時，需求模型準備進行tl+At段的模擬；此時先向自身的輸入文件夾中，檢測NodeData是否已將條件模型的tl+ Δ t段的模擬結果轉換為自身運行的輸入文件，若檢測到已存在tl+At段的模擬結果條件，則讀取該結果條件文件繼續執行；若未檢測到輸出結果，則所有參與需求模型運算的節點的主體模擬程序掛起等待，直到檢測到條件模型運行的t2時刻輸出tl+At段的模擬結果以及轉換至自身的輸入文件夾，當需求模型的所有節點均讀取完輸入條件後，全部停止等待繼續執行需求模型中的主體模擬；如此反覆進行，直到所有節點完成模擬後輸出結果，模型運行過程中的輸出符合模型任務備份的規定。
7.根據權利要求6所述的多中心流域水環境分布式集群管理系統，其特徵在於:所述的模擬結果整合，模型輸出後按照各節點所對應的分塊的邏輯關係，進行結果整合，將分塊結果按時間段整合成一系列與時間相關的整體模擬結果文件，發送至數據中心，存儲在用戶的當前業務資料庫中。
8.根據權利要求4所述的多中心流域水環境分布式集群管理系統，其特徵在於:所述的模型任務備份與故障處理，參與運算的工作機都有一個備份機，對應的工作機上的所有節點在備份機上都有相同的設置；在作業中都有一個備份節點，作業節點t和備份節點b存儲的原始數據完全一致；當作業節點工作運行輸出時，同時輸出兩套模擬結果，一套輸入到作業節點的結果文件夾，另一套輸入備份節點文件夾，並對應的將模型運行心跳記錄輸入到運行日誌中，以供NodeMaster的故障檢測單元檢測；若故障檢測單元檢測到作業節點t的故障後，NodeMaster查找模型中心所有集群計算機的工作狀態，從中選擇一臺機器作為原備份節點b的備份節點bb，並將b中所有作業數據複製到bb，修改任務映射表，並立即啟動備份節點b ;備份節點b轉換為任務節點，根據日誌中所記載的模擬進度、讀取原作業節點t的條件模型的輸出數據從故障出現的時刻啟動運行。
9.根據權利要求1所述的多中心流域水環境分布式集群管理系統，其特徵在於:所述的客戶端業務中心是用戶與集群管理系統互動的主要紐帶，包括用戶驗證模塊、用戶需求指令分析與發送模塊和服務端推送信息展示模塊； 所述的用戶驗證模塊用於集群管理系統對用戶身份的驗證，驗證方式會根據用戶類型的不同而採用不同的驗證方式；普通客戶採用用戶名和密碼驗證，在任何可聯網的客戶端均可操作；專業用戶採用用戶名和密碼登陸驗證以及客戶端機器物理地址的雙重驗證方式，專業用戶包括技術人員、管理人員和政府職能人員，其在使用專業用戶帳號登陸時，必須使用在管理中心註冊過的客戶端上進行； 所述的用戶需求指令分析與發送模塊用於客戶端通過用戶在可視化平臺的操作記錄用戶需求、並實時的將用戶需求生成用戶指令發送至作業管理中心；用戶指令包括環境信息顯示需求、數值模擬計算需求、資料庫操作需求以及系統管理需求； 所述的服務端推送信息展示模塊用於客戶端接收其餘中心對所推送的用戶需求指令的響應計算結果，用圖、表、動畫形式向用戶展現。
10.一種利用權利要求1所述的多中心流域水環境分布式集群管理系統進行多中心流域水環境管理的方法，其特徵在於:根據用戶的需求和環境管理需要包括集群業務化運行和用戶按需運行兩種方式；. 1.所述的集群業務化運行方式， 集群管理系統具有對全流域智能化流線化的環境監控管理和數值模擬分析功能；管理中心定時自動啟動任務管理單元的業務化運行指令，任務管理單元向模型中心的模型條件節點發布業務運行指令，開展全流域的氣象、水文、水動力、水質和水生態模擬，模擬數據存儲在數據中心的流域模型數據集中，主要包括以下步驟: 步驟Al:資料庫按時收集各測站數據，並從網上抓取氣象數據，以保證數據中心數據的最新；集群管理系統的作業管理中心在到達設定的自動模擬時間的時刻，開啟定時業務化模擬，由任務管理單元向模型中心的條件節點和數據中心下達作業命令； 步驟A2:數據中心接收到業務化運行命令，在數據中心建立最新任務的數據集，命名為jobt_time，並讀取最新的氣象數據和流域上下遊邊界條件的水動力與水質數據，發送給條件節點； 步驟A3:條件節點在接收到作業管理中心的命令後，在條件節點下的氣象模型子節點、陸地面源模型子節點、水動力水質水生態五套模型子節點分別拷貝一份模型需要的原始數據集，並命名為jobt_time ;如此時已經收到數據中心發送的數據，則對數據進行轉換，存入參與計算的各模型節點中； 步驟A4:條件節點啟動各子節點進行模型計算，條件節點啟動模型符合併行啟動模式；各模型在運行過程中按分段控制運行方式進行控制； 步驟A5:各模型按時輸出結果，並推送至數據中心入庫存儲；. 2.所述的用戶按需運行方式， 集群管理系統能滿足用戶不同範圍不同尺度不同時長的流域內局部精細模擬需要，以解決流域水環境管理中的實際應用文體，主要包括以下步驟: 步驟B1:用戶通過客戶端中心登錄集群管理系統、客戶端中心將用戶輸入的登錄信息發送至管理中心、請求登陸驗證； 步驟B2:管理中心接收到用戶請求，啟動安全管理單元；安全管理單元根據用戶名和專業用戶客戶端的機器物理地址進入存儲用戶信息的動態目錄驗證用戶，查看用戶所屬類另IJ，用戶客戶端機器授權類別，判斷是否非法請求，如是則拒絕用戶請求；若不是，則通過驗證，並生成用戶使用訪問伺服器的許可文件TaskAcc反饋給客戶端中心、TaskAcc文件包擴管理中心授權給用戶的使用權限、在線使用時長；管理中心掛起，等待用戶下一步命令；步驟B3:客戶端中心根據管理中心反饋的TaskAcc,判斷用戶類別、根據其TaskAcc的用戶使用權限與在線使用時長和向用戶打開集群管理系統的相關操作接口，同時提示用戶當前作業的時限與客戶端在用戶無響應時掛起的時間長度，以防止權限用戶離開業務機時間內被其他用戶非法操作；用戶操作客戶端界面，客戶端中心捕獲用戶的操作，生成用戶指令，並向管理中心發送指令； 步驟B4:管理中心在接收到用戶指令後，啟動任務分配單元先判斷是否有模型計算需求，如果無則執行普通的數據顯示燈操作；如果有判斷分析用戶要模擬的區域範圍，模擬的時間T，要運行的模型類別，同時向數據中心和模型中心發送模型計算命令； 步驟B5:數據中心接收指令，根據用戶名以及模擬時間，在資料庫中建立當前用戶的實時人物文件及job_time，同時根據任務管理單元發布的模擬範圍，從整體網格中，選出涵蓋ijl到ij2的網格段，同時讀取ijl到ij2範圍內的點源入匯點、面源入匯點，從條件節點輸出的結果中提取出這些入匯點在T時段內的氣象、水量、水質和水生態數據以及模擬範圍的上下遊邊界條件，並發送給應用節點； 步驟B6:應用節點接收任務管理單元的命令，根據模型種類在節點中設置參與計算的子節點及其任務映射表，並設定臨時任務備份節點，在參與計算的子節點和備份節點中都建立複製包含所有原始輸入數據的文件夾，重命名為job_time ； 步驟B7:當應用節點接收到數據中心發送的數據後，根據已生成的任務映射表，將數據分別發送給各模型子節點，各模型子節點根據自身的需要，對接收到的網格數據進行分塊，同時將入匯點數據與網格分塊數據進行匹配，將數據輸入數據轉換輸出到每個分塊子節點及其備份節點的作業文件夾job_time中； 步驟B8:模型中心的應用節點開展模擬工作，節點模型在運行過程中定時向管理中心發送運行日誌，匯報運行狀態；並按時輸出中間結果，經結果整合後推送至數據中心入庫存儲； 步驟B9:數據中心接收模型中心推送的中間成果數據，轉換入庫存儲，同時根據任務管理單元命令中包含的要參與模擬計算的模型種類，判斷模型是否為條件模型與需求模型，若接收到的數據來自於條件模型，則將該結果轉換發送給模型中心應用節點中的需求模型； 步驟BlO:需求模型接收數據中心傳來的其條件模型的模擬結果，根據分塊情況將數據分解轉換輸入到工作文件夾，按分段控制運行方式重複執行步驟B8和步驟B9，直到所有全部時間的模擬； 步驟Bll:管理中心分析模型中心推送的運行日誌，監控其運行情況，如有故障則進行故障處理；如模型中心運行完畢，則向客戶端中心反饋模擬結果完成的信息；客戶端中心接收該信息，提示用戶進行下一步的分析與環境評價操作； 步驟B12:用戶根據需要，在客戶端中心選擇要進行操作，如進行環境狀況評價與未來趨勢分析預測或開展環境決策分析，客戶端中心將用戶的需求發送至管理中心，管理中心根據用戶的需求，反饋相應的結果，輔助用戶進行流域水環境管理。
【文檔編號】G06Q50/00GK104268695SQ201410506093
【公開日】2015年1月7日 申請日期:2014年9月26日 優先權日:2014年9月26日
【發明者】張萬順, 彭虹, 王永桂 申請人:武漢大學