台灣IC設計產學專家群聚2020 RISC-V Taipei Day 剖析切入Edge AI商機最佳策略
台灣IC設計產學專家群聚2020 RISC-V Taipei Day 剖析切入Edge AI商機最佳策略。（廠商提供）
近年來AIoT(人工智慧+物聯網)應用快速興起，高AI運算量晶片需求持續增加，使得邊緣AI (Edge AI)晶片市場快速成長。德勤(Deloitte)研究報告指出，2020年邊緣AI晶片出貨量將達7.5億顆(銷售額達26億美元)，預估2024年出貨量達15億顆，2020－2024年複合成長率至少達20%，遠大於整體半導體產業的9%。
由於RISC-V的彈性架構可滿足邊緣AI晶片設計需求，為協助台灣產業切入邊緣AI應用商機，台灣RISC-V聯盟(RVTA)於25日假台北南港展覽館1館舉辦2020 RISC-V Taipei Day，邀請RISC-V International執行長Ms. Calista Redmond(以線上影片方式)、台灣RISC-V聯盟副會長暨晶心科技總經理林志明、芯原台灣副總經理徐國程、Mentor嵌入式平台亞洲區經理徐志亮發表專題演講，並由拓墣產業研究院資深分析師姚嘉洋，以「中美大戰下的RISC-V生態系統的競合發展」為主題，發表市場趨勢報告。
研發人才來源是RISC-V推廣上的重點工作之一，因此台灣RISC-V聯盟特別邀請包括中山大學黃英哲教授、清華大學李政崑教授、交通大學陳添福教授、成功大學陳中和教授等多位學界專家，與Rambus資深技術支援工程師伍志彬、IAR System台灣區應用工程師蔡本中等產業專家進行對談，進而找出產學如何合作，才能進行人力培育，增加IC設計與產業所需人才。
台灣RISC-V聯盟會長王其國在開場致詞表示，RISC-V是顛覆式創新開放架構，廠商可透過增加領域專用架構(Domain-Specific Architecture，DSA)指令集來增加功能，這對於開發邊緣運算晶片或AI晶片的業者來說，不僅可以客製化設計，並且能共享開發成果，非常適合作為開源硬體的參考架構。台灣作為全球半導體的重鎮之一，不能在RISC-V開放架構上缺席。
RISC-V International執行長Ms. Calista Redmond在線上影片專題演講時指出，開放架構已經成為晶片市場主流，而且成長速度越來越快，RISC-V International目前有來自50國超過685家會員，其中光是今年就增加超過兩成，可見市場接受度高。應用領域廣泛也是RISC-V能夠快速成長的重要原因，包括雲端運算、汽車電子、工業物聯網、行動通訊設備、消費性物聯網裝置、記憶體晶片等，都是RISC-V開放架構可以應用的領域。RISC-V International也陸續將相關教學資料與軟體工具上傳到官方網站，加速RISC-V的教育推廣與擴散。
台灣RISC-V聯盟副會長暨晶心科技林志明總經理在專題演講中表示，RISC-V已經成為單晶片微處理器IP設計必須考慮的參考架構之一，同時也是目前市場主流，因為包括Qualcomm、Mediatek、WD、Microchip、NXP等一線大廠都有採用RISC-V架構的晶片，由此可見RISC-V架構的可用性與穩定程度。
而RISC-V從開發工具、IP、設計服務、EDA軟體、中介軟體、加密機制、AI功能等完整生態系，也讓廠商不管要開發哪一種領域的單晶片，都已經有開發工具能夠使用，而且應用領域更廣。以晶心來說，從物聯網、無線通訊、雲端運算、AR/VR、AI/ML(機器學習)、區塊鏈、機器人/無人機、遊戲設備等應用，都有客戶使用RISC-V架構開發所需之單晶片，所以RISC-V已經成為主流架構之一，尤其是在開發邊緣運算晶片上，不管是執行效率或省電效率，更是獲得業界認可。
芯原台灣副總經理徐國程表示，嵌入式系統要增加AI運算，最大的困難點在於如何達到即時回應與AI模型最佳化，因此在Edge AI應用設計上，廠商要考慮如何在嵌入式系統上有效率加速深度學習執行，並且透過開發工具進行AI演算法的選擇與改善，減少相關運算資源的需求，且能維持AI運算效率。
徐國程指出，傳統雲端AI運算的回應時間大約在210毫秒到1410毫秒，手機AI運算回應時間大約在24毫秒左右，因此嵌入式晶片只要有辦法將AI運算回應縮短在100毫秒之內，就能夠符合大部分AIoT應用情境之需求，也就是符合使用者對於即時回應的感受。
由於AI運算對於大部分現有嵌入式系統晶片而言，是屬於新增指令集，而透過導入VIP9000之類的NPU處理器(Neural Processing Unit)，並且搭配對應SDK，就能夠縮短嵌入式系統AI運算所需時間，達到即時回應水準。目前導入VIP9000的實際案例包括有安全監控、智慧家庭、穿戴式裝置、邊緣運算伺服器與車用ADAS系統等，並且可以針對不同運算速度的環境提供不同規格的NPU處理器IP，以達到高效率且低耗電的要求。
Mentor嵌入式平台亞洲區經理徐志亮表示，用RISC-V架構開發嵌入式系統晶片，由於廠商會以設計出可量產商用化解決方案為最主要的目的，因此開發者在開發工具的選擇上，經過商業化認證的設計開發工具鏈會是最佳的選擇。因為RISC-V架構晶片開發上經常需要面對各種同步與非同步的多重指令處理模式，而且必須要能支援各種RTOS(即時作業系統)，而且要低耗電，所以難度其實相當高。
對於設計以RISC-V架構的嵌入式AI晶片來說，必須要考慮到如何透過OS層的方式導入AI與機器學習功能，要能夠支援遠端監控與資料傳輸，並且符合加密規範，所以能夠提供從晶片設計、作業系統到串接雲端服務的嵌入式系統開發工具鏈，才是最佳開發工具。
拓墣產業研究院資深分析師姚嘉洋表示，從RISC-V生態系來看，歐洲、美國、中國業者都在裡面，而且從IP供應商、設計服務、軟體、IC設計業者、系統業者到雲端服務等都有對應業者，所以就生態系來說，其實已經相當完整。而台灣在RISC-V生態系當中，目前只有在IP供應商(如晶心)跟IC設計業者(如聯發科、創惟科技、智成電子等)，缺乏系統業者與雲端服務，因此台灣IC設計產業如果想要在RISC-V生態系當中有所發展，與歐美中業者保持緊密合作關係是重要關鍵。
姚嘉洋指出，在RISC-V生態系當中，中國晶片業者數量可說是絕對領先，顯示中國半導體自主化策略明顯發揮效果，而且中系晶片業者不乏華為、中興微電子、北京君正、紫光同創與兆易創新等主力公司，所以中國發展RISC-V生態系具有實力，較弱的會是在矽智財與軟體相關領域。
至於NVIDIA收購Arm是否會對RISC-V生態系造成重大影響，姚嘉洋認為，現階段看起來影響並不大，而且NVIDIA本身也是RISC-V會員。此外，若以Arm的技術發展Roadmap來看，NVIDIA除了對Arm生態系生意模式有興趣之外，也有可能補足Arm在高效運算IP的不足，進而打造更完整的高效運算生態系。
台灣學界已用RISC-V進行IC設計教學與專案開發 缺乏開發套件不易進行RISC-V應用系統驗證
為促進產學交流，由中山大學黃英哲教授主持，邀請清華大學李政崑教授、交通大學陳添福教授、成功大學陳中和教授等多位學界專家，分享學界與RISC-V相關的專案開發成果，包括TVM編譯器、AI單晶片系統開發最佳化軟體、軟體式GPGPU開發等，並與與會業界人士分享學校教授使用RISC-V進行IC設計教學實務經驗。
此外，Rambus資深技術支援工程師伍志彬也分享Rambus開發AI晶片用加密系統經驗，並且建議透過硬體加密確保資料儲存與傳輸的安全性。IAR System台灣區應用工程師蔡本中則分享支援RISC-V的C/C++編譯器和除錯器工具鏈IAR Embedded Workbench，並且表示歡迎學校申請教育方案，讓學校學生可以直接使用。
針對如何培養RISC-V晶片架構開發人員與系統開發技術，學界均表示開發套件會是相當重要工具，因為現階段學校是使用FPGA模擬RISC-V晶片的運作進行教學與開發，不易開發成應用系統產品，若業界能夠提供使用真實量產晶片的開發套件，不僅能夠進行IC設計驗證，對於開發RISC-V架構的系統產品來說，更實用且更有效率，也能擴大RISC-V應用與推廣普及。
由於RISC-V的彈性架構可滿足邊緣AI晶片設計需求，為協助台灣產業切入邊緣AI應用商機，台灣RISC-V聯盟(RVTA)於25日假台北南港展覽館1館舉辦2020 RISC-V Taipei Day，邀請RISC-V International執行長Ms. Calista Redmond(以線上影片方式)、台灣RISC-V聯盟副會長暨晶心科技總經理林志明、芯原台灣副總經理徐國程、Mentor嵌入式平台亞洲區經理徐志亮發表專題演講，並由拓墣產業研究院資深分析師姚嘉洋，以「中美大戰下的RISC-V生態系統的競合發展」為主題，發表市場趨勢報告。
研發人才來源是RISC-V推廣上的重點工作之一，因此台灣RISC-V聯盟特別邀請包括中山大學黃英哲教授、清華大學李政崑教授、交通大學陳添福教授、成功大學陳中和教授等多位學界專家，與Rambus資深技術支援工程師伍志彬、IAR System台灣區應用工程師蔡本中等產業專家進行對談，進而找出產學如何合作，才能進行人力培育，增加IC設計與產業所需人才。
台灣RISC-V聯盟會長王其國在開場致詞表示，RISC-V是顛覆式創新開放架構，廠商可透過增加領域專用架構(Domain-Specific Architecture，DSA)指令集來增加功能，這對於開發邊緣運算晶片或AI晶片的業者來說，不僅可以客製化設計，並且能共享開發成果，非常適合作為開源硬體的參考架構。台灣作為全球半導體的重鎮之一，不能在RISC-V開放架構上缺席。
RISC-V International執行長Ms. Calista Redmond在線上影片專題演講時指出，開放架構已經成為晶片市場主流，而且成長速度越來越快，RISC-V International目前有來自50國超過685家會員，其中光是今年就增加超過兩成，可見市場接受度高。應用領域廣泛也是RISC-V能夠快速成長的重要原因，包括雲端運算、汽車電子、工業物聯網、行動通訊設備、消費性物聯網裝置、記憶體晶片等，都是RISC-V開放架構可以應用的領域。RISC-V International也陸續將相關教學資料與軟體工具上傳到官方網站，加速RISC-V的教育推廣與擴散。
台灣RISC-V聯盟副會長暨晶心科技林志明總經理在專題演講中表示，RISC-V已經成為單晶片微處理器IP設計必須考慮的參考架構之一，同時也是目前市場主流，因為包括Qualcomm、Mediatek、WD、Microchip、NXP等一線大廠都有採用RISC-V架構的晶片，由此可見RISC-V架構的可用性與穩定程度。
而RISC-V從開發工具、IP、設計服務、EDA軟體、中介軟體、加密機制、AI功能等完整生態系，也讓廠商不管要開發哪一種領域的單晶片，都已經有開發工具能夠使用，而且應用領域更廣。以晶心來說，從物聯網、無線通訊、雲端運算、AR/VR、AI/ML(機器學習)、區塊鏈、機器人/無人機、遊戲設備等應用，都有客戶使用RISC-V架構開發所需之單晶片，所以RISC-V已經成為主流架構之一，尤其是在開發邊緣運算晶片上，不管是執行效率或省電效率，更是獲得業界認可。
芯原台灣副總經理徐國程表示，嵌入式系統要增加AI運算，最大的困難點在於如何達到即時回應與AI模型最佳化，因此在Edge AI應用設計上，廠商要考慮如何在嵌入式系統上有效率加速深度學習執行，並且透過開發工具進行AI演算法的選擇與改善，減少相關運算資源的需求，且能維持AI運算效率。
徐國程指出，傳統雲端AI運算的回應時間大約在210毫秒到1410毫秒，手機AI運算回應時間大約在24毫秒左右，因此嵌入式晶片只要有辦法將AI運算回應縮短在100毫秒之內，就能夠符合大部分AIoT應用情境之需求，也就是符合使用者對於即時回應的感受。
由於AI運算對於大部分現有嵌入式系統晶片而言，是屬於新增指令集，而透過導入VIP9000之類的NPU處理器(Neural Processing Unit)，並且搭配對應SDK，就能夠縮短嵌入式系統AI運算所需時間，達到即時回應水準。目前導入VIP9000的實際案例包括有安全監控、智慧家庭、穿戴式裝置、邊緣運算伺服器與車用ADAS系統等，並且可以針對不同運算速度的環境提供不同規格的NPU處理器IP，以達到高效率且低耗電的要求。
Mentor嵌入式平台亞洲區經理徐志亮表示，用RISC-V架構開發嵌入式系統晶片，由於廠商會以設計出可量產商用化解決方案為最主要的目的，因此開發者在開發工具的選擇上，經過商業化認證的設計開發工具鏈會是最佳的選擇。因為RISC-V架構晶片開發上經常需要面對各種同步與非同步的多重指令處理模式，而且必須要能支援各種RTOS(即時作業系統)，而且要低耗電，所以難度其實相當高。
對於設計以RISC-V架構的嵌入式AI晶片來說，必須要考慮到如何透過OS層的方式導入AI與機器學習功能，要能夠支援遠端監控與資料傳輸，並且符合加密規範，所以能夠提供從晶片設計、作業系統到串接雲端服務的嵌入式系統開發工具鏈，才是最佳開發工具。
拓墣產業研究院資深分析師姚嘉洋表示，從RISC-V生態系來看，歐洲、美國、中國業者都在裡面，而且從IP供應商、設計服務、軟體、IC設計業者、系統業者到雲端服務等都有對應業者，所以就生態系來說，其實已經相當完整。而台灣在RISC-V生態系當中，目前只有在IP供應商(如晶心)跟IC設計業者(如聯發科、創惟科技、智成電子等)，缺乏系統業者與雲端服務，因此台灣IC設計產業如果想要在RISC-V生態系當中有所發展，與歐美中業者保持緊密合作關係是重要關鍵。
姚嘉洋指出，在RISC-V生態系當中，中國晶片業者數量可說是絕對領先，顯示中國半導體自主化策略明顯發揮效果，而且中系晶片業者不乏華為、中興微電子、北京君正、紫光同創與兆易創新等主力公司，所以中國發展RISC-V生態系具有實力，較弱的會是在矽智財與軟體相關領域。
至於NVIDIA收購Arm是否會對RISC-V生態系造成重大影響，姚嘉洋認為，現階段看起來影響並不大，而且NVIDIA本身也是RISC-V會員。此外，若以Arm的技術發展Roadmap來看，NVIDIA除了對Arm生態系生意模式有興趣之外，也有可能補足Arm在高效運算IP的不足，進而打造更完整的高效運算生態系。
台灣學界已用RISC-V進行IC設計教學與專案開發 缺乏開發套件不易進行RISC-V應用系統驗證
為促進產學交流，由中山大學黃英哲教授主持，邀請清華大學李政崑教授、交通大學陳添福教授、成功大學陳中和教授等多位學界專家，分享學界與RISC-V相關的專案開發成果，包括TVM編譯器、AI單晶片系統開發最佳化軟體、軟體式GPGPU開發等，並與與會業界人士分享學校教授使用RISC-V進行IC設計教學實務經驗。
此外，Rambus資深技術支援工程師伍志彬也分享Rambus開發AI晶片用加密系統經驗，並且建議透過硬體加密確保資料儲存與傳輸的安全性。IAR System台灣區應用工程師蔡本中則分享支援RISC-V的C/C++編譯器和除錯器工具鏈IAR Embedded Workbench，並且表示歡迎學校申請教育方案，讓學校學生可以直接使用。
針對如何培養RISC-V晶片架構開發人員與系統開發技術，學界均表示開發套件會是相當重要工具，因為現階段學校是使用FPGA模擬RISC-V晶片的運作進行教學與開發，不易開發成應用系統產品，若業界能夠提供使用真實量產晶片的開發套件，不僅能夠進行IC設計驗證，對於開發RISC-V架構的系統產品來說，更實用且更有效率，也能擴大RISC-V應用與推廣普及。
訂閱必聞電子報
