基於cmac網絡的群控電梯調度方法
2023-05-02 02:31:26
專利名稱:基於cmac網絡的群控電梯調度方法
技術領域:
本發明涉及一種電梯的調度方法,尤其涉及一種電梯群控調度方法。
背景技術:
早期電梯控制採用單呼梯信號形式,隨著計算機控制和智能技術的發展,由計算機統一管理一組電梯的呼叫和指令信號,根據系統設定的優化目標和建築物中的實際交通狀況,產生最優電梯調度策略,這就是目前常見的電梯群控系統,其調度的實質是在開放、動態的複雜環境中,對乘客候梯時間、乘客乘梯時間、擁擠度和能耗等多個優化目標進行優化控制。目前群控電梯調度方法主要涉及分區算法、基於搜索的算法和基於規則的算法等等。隨著智能技術的發展,越來越多的研究者採用專家系統、模糊控制、人工神經網絡以及遺傳算法等技術研究自適應的學習算法。但由於電梯運行在一個連續時間系統中,其狀態空間高維,同時外部狀態不能完全感知且隨乘客到達率變化而動態改變,因此有效計算電梯群控調度的最優策略仍然是研究界和產業界面臨的主要難題之一。
考慮到電梯面臨的實際環境是未知的、不確定的,而調度是針對顧客到達模型的在線優化。因此將強化學習(Reinforcement learning)技術應用到電梯群控調度中,通過仿真實驗表明其方法與目前已有算方法相比,能夠獲得較小的顧客平均等待時間。
發明內容
1、發明目的本發明的目的是提供一種可以減少乘客平均等待時間的高效電梯群控調度方法。
2、為了達到上述的發明目的,本發明包括下述步驟(1)確定靜態參數、動態參數、乘客到達模型、CMAC網絡參數和強化學習參數,然後觸發電梯群控系統,其中,靜態參數為電梯數目和樓層數目,動態參數為層間運行時間、電梯停止/轉向時間和乘客進出電梯時間,乘客到達模型參數為乘客到達時間分布,CMAC網絡參數為輸入節點、輸出節點和泛化參數,強化學習參數為指數衰減速率β和學習率α;(2)設在tx時刻電梯i到達一個決策點,觀察得到狀態為x,根據CMAC網絡計算得出Q(x,run)和Q(x,stop),其中,Q(x,run)為在x狀態下電梯繼續運行的Q值函數,Q(x,stop)為電梯停靠的Q值函數;(3)根據以下公式選擇動作aPr(stop)=eQ(x,run)/TeQ(x,stop)/T+eQ(x,run)/T]]>其中,T為溫度參數且T>0;(4)令電梯i的下一個決策點發生在ty時刻,其相應的狀態為y,根據式R[i]=e-(t0-d[i])b{2b(1-e-(t1-t0))4+(23+2w0(b)2+w02(b))]]>-e-(t1-t0)(23+2w1(b)2+w12(b))+b[(2w0(b)3+w02(b)2+w03(b)3)-]]>e-(t1-t0)(2w1(b)3+w12(b)2+w13(b)3)]}]]>更新所有電梯的獲得R[i]值,其中,R[i]為第i部電梯從其上一次決策時間點d[i]時開始累計的總折扣強化值,t0為上一事件發生的時間,t1為當前事件發生的時間,對於每個在t0和t1之間有效的電梯呼叫鍵b而言,令w0(b)和w1(b)分別為t0和t1時刻按鈕b按下後逝去的時間,式中β為指數衰減速率,λ為顧客的泊松到達率;(5)電梯i根據式Q(x,a)R[i]+e-(ty-tx)mina{stop,cont}Qcmac(y,a)]]>調節其Q(s,a)的估值;(6)根據式W=[R[i]+e-(ty-tx)mina{stop,cont}Qcmac(y,a,W)]]>-Qcmac(x,a,W)]WQcmac(x,a,W)]]>更新CMAC網絡權值;(7)將x←y,tx←ty..轉至步驟1,從而實現群控電梯調度。
3、有益效果其顯著優點是能有效地減少乘客平均等待時間,提高電梯調度的性能。
表1 僅含下行交通模式的對比實驗結果
表2 含上行交通模式的對比實驗結果
表3 兩倍上行交通的對比實驗結果
以上分別在三種交通模式下進行實驗,實驗表明基於CMAC網絡的群控電梯調度算法相比採用基於BP網絡強化學習的群控調度算法和經典的SECTOR算法,能夠獲得較小的顧客平均等待時間;同時顧客等待時間超過60s的比例大幅減小。
四
圖1是強化學習函數估計的結構圖;圖2是CMAC神經網絡結構示意圖。
五具體實施例方式
如圖1、圖2所示,本實施例包括下列步驟(1)根據表4確定靜態參數、動態參數、乘客到達模型、CMAC網絡參數和強化學習參數,然後觸發電梯群控系統;
表4 實施例參數配置
(2)設在tx時刻電梯i到達一個決策點,觀察得到狀態為x,根據CMAC網絡計算得出Q(x,run)和Q(x,stop),其中,Q(x,run)為在x狀態下電梯繼續運行的Q值函數,Q(x,stop)為電梯停靠的Q值函數;(3)根據以下公式選擇動作a
Pr(stop)=eQ(x,run)/TeQ(x,stop)/T+eQ(x,run)/T]]>其中,T為溫度參數且T>0;(4)令電梯i的下一個決策點發生在ty時刻,其相應的狀態為y,根據式R[i]=e-(t0-d[i])b{2b(1-e-(t1-t0))4+(23+2w0(b)2+w02(b))]]>-e-(t1-t0)(23+2w1(b)2+w12(b))+b[(2w0(b)3+w02(b)2+w03(b)3)-]]>e-(t1-t0)(2w1(b)3+w12(b)2+w13(b)3)]}]]>,更新所有電梯的獲得R[i]值,其中,R[i]為第i部電梯從其上一次決策時間點d[i]時開始累計的總折扣強化值,t0為上一事件發生的時間,t1為當前事件發生的時間,對於每個在t0和t1之間有效的電梯呼叫鍵b而言,令w0(b)和w1(b)分別為t0和t1時刻按鈕b按下後逝去的時間,式中β為指數衰減速率,λ為顧客的泊松到達率;(5)電梯i根據式Q(x,a)R[i]+e-(ty-tx)mina{stop,cont}Qcmac(y,a)]]>調節其Q(s,a)的估值;(6)根據式W=[R[i]+e-(ty-tx)mina{stop,cont}Qcmac(y,a,W)]]>-Qcmac(x,a,W)]WQcmac(x,a,W)]]>更新CMAC網絡權值;(7)將x←y,tx←ty..轉至步驟1,從而實現群控電梯調度。
權利要求
1.一種基於CMAC網絡的群控電梯調度方法,其特徵在於,該方法包括以下步驟(1)確定靜態參數、動態參數、乘客到達模型、CMAC網絡參數和強化學習參數,然後觸發電梯群控系統,其中,靜態參數為電梯數目和樓層數目,動態參數為層間運行時間、電梯停止/轉向時間和乘客進出電梯時間,乘客到達模型參數為乘客到達時間分布,CMAC網絡參數為輸入節點、輸出節點和泛化參數,強化學習參數為指數衰減速率β和學習率α;(2)設在tx時刻電梯i到達一個決策點,觀察得到狀態為x,根據CMAC網絡計算得出Q(x,run)和Q(x,stop),其中,Q(x,run)為在x狀態下電梯繼續運行的Q值函數,Q(x,stop)為電梯停靠的Q值函數;(3)根據以下公式選擇動作aPr(stop)=eQ(x,run)/TeQ(x,stop)/T+eQ(x,run)/T]]>其中,T為溫度參數且T>0;(4)令電梯i的下一個決策點發生在ty時刻,其相應的狀態為y,根據式R[i]=e-(t0-d[i])b{2b(1-e-(t1-t0))4+(23+2w0(b)2+w02(b))]]>-e-(t1-t0)(23+2w1(b)2+w12(b))+b[(2w0(b)3+w02(b)2+w03(b)3)-]]>e-(t1-t0)(2w1(b)3+w12(b)2+w13(b)3)]},]]>更新所有電梯的獲得R[i]值,其中,R[i]為第i部電梯從其上一次決策時間點d[i]時開始累計的總折扣強化值,t0為上一事件發生的時間,t1為當前事件發生的時間,對於每個在t0和t1之間有效的電梯呼叫鍵b而言,令w0(b)和w1(b)分別為t0和t1時刻按鈕b按下後逝去的時間,式中β為指數衰減速率,λ為顧客的泊松到達率;(5)電梯i根據式Q(x,a)R[i]+e-(ty-tx)mina{stop,cont}Qcmac(y,a)]]>調節其Q(s,a)的估值;(6)根據式W=[R[i]+e-(ty-tx)mina{stop,cont}Qcmac(y,a,W)]]>-Qcmac(x,a,W)WQcmac(x,a,W)]]>更新CMAC網絡權值;(7)將x←y,tx←ty。轉至步驟1,從而實現群控電梯調度。
全文摘要
本發明公開了一種基於CMAC網絡的群控電梯調度方法,其步驟為(1)確定靜態參數、動態參數、乘客到達模型、CMAC網絡參數和強化學習參數,然後觸發電梯群控系統;(2)觀察電梯狀態計算得出Q(x,run)和Q(x,stop);(3)選擇電梯動作;(4)令電梯i的下一個決策點發生在ty時刻,其相應的狀態為y,更新所有電梯的獲得R[i]值;(5)調節電梯I的Q(s,a)的估值;(6)根據式更新CMAC網絡權值;(7)將x←y,t
文檔編號B66B1/18GK1857981SQ20061004055
公開日2006年11月8日 申請日期2006年5月24日 優先權日2006年5月24日
發明者高陽, 胡景凱 申請人:南京大學