普世人工智慧的願景

近年來,深度學習所帶來的人工智慧革命已是不論學界、業界或一般大眾皆十分關切的議題。例如在影像、語音等產學界已多年耕耘的領域中,人工智慧在部分應用(人像辨認、語音辨識)上已達到超越一般人的水平,其穩定性也足以商業化供一般大眾使用。除此之外,人工智慧在未來也被預期將在自動駕駛,工業4.0、智慧物聯網等更多領域扮演關鍵的技術,與人的日常生活將有更緊密的結合。我們可樂觀預期,在不久的未來人類的生活將會有大量的人工智慧參與其中,協助提升一般人的生活品質和安全,此一願景被稱為普世人工智慧(AI Everywhere)。

但要實現普世人工智慧,以目前深度學習為基礎而發展的人工智慧技術來說,任何一個應用都需要:(1)大量的資料做為人工智慧模型的訓練素材、(2)大量的計算資源以進行人工智慧模型的訓練。這些資源並非一般大眾能自行取得,必須依賴廠商和服務商的提供。大部分人工智慧服務商會使用雲端服務或私人資料中心中提供對應的資料和運算資源。雖然使用者可以透過網際網路進行存取,但由於網際網路上的連線品質會受各種外在因素的影響,再加上使用者與雲端服務的伺服器物理距離往往十分遙遠,很有可能會面臨資料交換和服務速度延遲不穩定或過大的問題。因為許多關鍵的人工智慧服務需要接近零的服務延遲,此類的服務延遲問題將會使普世人工智慧無法實現。

以自動駕駛為例,現今的自動駕駛皆以車載電腦與車載雷達/光達/攝影機等結合,透過單一車輛可收集到的資訊結合車載電腦的計算能力以完成自動駕駛的功能。然而此類做法因其收集的資訊與單一車載電腦計算資源有其極限,使自動駕駛的效能和安全性無法進一步提升到超越專業人類駕駛的程度。在普世人工智慧的願景下,我們預期未來的自動駕駛系統將收集更多周圍行人、車輛與交通號誌狀態等區域資訊,並結合獨立於車輛之外的統合人工智慧服務對該區域自動駕駛車輛進行協調和輔助,以實現全方位更安全有效率的智慧交通系統。然而,這樣的服務對於服務延遲的要求非常嚴格。為了能快速反應瞬息萬變的交通狀態,其人工智慧模型必須能在數毫秒等級的極短時間內快速反應做出決策並即時控制車輛。傳統基於雲端服務的人工智慧服務將無法保證此等級的延遲。除了自動駕駛外,遠端醫療、智慧城市等服務皆有類似的延遲要求,如無法解決此問題,普世人工智慧將無法實現。

邊緣運算

邊緣運算(Edge Computing)是近年來新提出的網路運算服務架構,被視為實現普世人工智慧的最後一哩路。邊緣運算的基本精神為將有低延遲需求的計算服務從雲端網路轉移到網路邊緣,藉此降低實際傳輸距離、消除網路中不必要的資料傳輸及避免無法預測之網路壅塞,以滿足服務的低延遲需求。基於此精神,邊緣運算創造了一個在網路邊緣提供運算、儲存、控制以及網路的全新架構(圖1),透過在網路邊緣地帶佈建的計算資源而能在更接近使用者裝置的地點提供運算服務,並透過整合有線與無線網路服務進行通訊與運算資源最佳化,以達到整體資源使用效率最佳化,以及服務延遲最小化。

然而,身為普世人工智慧的最後一哩路,邊緣運算裡計算資源的取得和分配是一大難題。網路邊緣地帶的相關網路設備通常是以訊號為優先考量,例如基地台通常會佈建在最接近使用者的路邊或訊號較不會被遮敝的頂樓。這類場所往往不適合建立機房以佈建大量伺服器,故實際上邊緣運算能夠提供的計算資源相較於傳統雲端服務將相當有限。如何使用有限的資源去支援未來大量快速發展的人工知慧服務,是邊緣運算的最大挑戰。針對這一挑戰,我們實驗室團隊在邊緣運算系統的研究著重分成兩大面向:開源和節流。開源即試圖突破傳統機房伺服器的計算資源限制,在網路邊緣取得更多的計算資源。節流則是透過有效合理的機制設計和資源分配演算法,讓有限的資源僅供最需要的使用者使用,並創造出最好的服務品質。

圖1:邊緣運算系統

開源:

在網路邊緣地帶進行傳統計算資源的佈建需要支付大量的成本,故往往會需求事先的規畫和與人工智慧服務商的協議,以保證此成本能在合理時間內回收[1]。這樣的做法雖然保險,但因為缺乏彈性而可能無法跟上最新的人工智慧發展。為了突破網路邊緣地帶難以佈建傳統伺服器的限制,我們將眼光看向網路邊緣地帶其他已經存在卻沒有被利用的計算資源:使用者裝置(手機、平版、筆電等)與智慧裝置(物聯網裝置、智慧車輛等)。我們注意到,其實有大量使用者裝置和智慧裝置平時是處於待機或無人使用的狀態。雖然單一裝置的能力有限,但如能有效統整分配,仍能成為邊緣運算的計算資源。在這樣的想法下,我們針對使用者裝置提出了霧服務市場的概念[2],讓使用者可以將待機的裝置連上該市場後成為資源的賣家,當有符合需求的買家(人工智慧服務計算需求)出現時,即可依當時市場價格自動配對並售出資源,透過交易來吸引使用者釋出空閒的裝置,同時減輕邊緣運算系統的資源負擔,來達到雙贏的效果。針對智慧裝置部分,我們則是考慮未來智慧車輛將成為主流,但一般車輛在大部分的時間其實是處於閒置停車的狀態。雖然它們擁有一定的計算資源,但在停車時即處於關機狀態而無法使用。有鑑於此,我們提出了霧智慧停車場的概念(圖2),讓霧智慧停車場與邊緣運算系統連線[3],了解目前各地對邊緣運算資源的需求。對於需求高的地區的鄰近停車場,霧智慧停車場將根據實際停車需求和邊緣運算系統的預期需求,透過我們設計的拍賣機制定出專門給智慧車輛的優惠停車費用,以便吸引智慧車輛前來停靠。在停妥後,智慧車輛將保持與邊緣運算系統的連線,在有需求出現時提供服務,並獲得一定的補貼。透過三方的連線和協調,我們一樣能減輕邊緣運算系統的負擔,同時達到使用者-停車場-邊緣運算系統三贏的結果。

圖2:霧智慧停車系統

節流:

為了把有限的計算資源做最有效率的利用,我們考慮到普世人工智慧的使用者和服務對計算和通訊服務可能有不一樣的要求,進而對邊緣運算資源的需求和急迫性也有所差別,因此,我們首先提出透過拍賣的機制,先過濾出最需求邊緣運算資源的使用者和服務後,再將就近的資源分配給得標的使用者[4]。然而此類做法無法將邊緣運算的潛力完全開發,因為他沒有充分利用未來預期在整個網路邊緣皆廣泛佈建的邊緣運算資源。若考慮到邊緣運算系統有通訊能力且可以彼此交換訊息,我們注意到邊緣運算系統之間是可以建立合作關係的。有鑑於此,我們提出並研究協作式邊緣運算的架構[5],藉由市場定價機制,自動化地將使用者引導到擁有對應資源的邊緣運算系統中,藉此更進一步地最佳化資源使用效率和服務品質。

未來的挑戰

經過多年的研究,邊緣運算的資源取得和分配問題已獲得一定程度的解決。然而,為了支援未來多樣化的普世人工智慧服務,仍有許多挑戰需要處理,其中包含了高速移動下的服務品質保證、與人工智慧系統的深度整合、使用者的隱私保障、系統安全性等,我們將持續邊緣運算的相關研究,協助打通普世人工智慧的最後一哩路。


參考文獻

[1]Yuan-Yao Shih, Chih-Yu Wang, Ai-Chun Pang, “Fog Computing Service Provision using Bargaining Solutions,” to appear in IEEE Transactions on Services Computing.
[2]Yi-Hsuan Hung, Chih-Yu Wang, “Fog Micro Service Market: Promoting Fog Computing using Free Market Mechanism,” IEEE WCNC 2018, Barcelona, Spain, April 2018.
[3]Yi Zhang, Chih-Yu Wang, Hung-Yu Wei, “Parking Reservation Auction for Parked Vehicle Assistance in Vehicular Fog Computing,” IEEE Transactions on Vehicular Technology, volume 68, number 4, pages 3126-3139, April 2019.
[4]Yi-Hsuan Hung, Chih-Yu Wang, Ren-Hung Hwang, “Optimizing Social Welfare of Live Video Streaming Services in Mobile Edge Computing,” IEEE Transactions on Mobile Computing, volume 19, number 4, pages 922-934, April 2020.
[5]Wei-Yu Chen, Po-Yu Chou, Chih-Yu Wang, Ren-Hung Hwang, Wen-Tsuen Chen, “Dual Pricing Optimization for Live Video Streaming in Mobile Edge Computing with Joint User Association and Resource Management,” to appear in IEEE Transactions on Mobile Computing.