開啟下一代人工智能SoC極致性能與終極效率
日前,在北京舉辦 NetSpeedSystems新產品發(fā)布會。NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘重點介紹了NetSpeedSystem 即將推出的為人工智能系統(tǒng)SoC的片內互連所開發(fā)的架構級 IP——Orion.AI,并分享了公司戰(zhàn)略及市場遠景。他表示,新發(fā)布的Orion AI將為下一代人工智能SoC帶來極致性能與終極效率。
人工智能SoC面對的挑戰(zhàn)
黃啓弘認為,人工智能技術在視頻、語音、預測、機器人及診斷等應用中正漸入佳境。這些新興應用對處理能力提出了更高的需求,推動著計算架構發(fā)生天翻地覆的變化,并急劇改變著SoC設計模式。但是新應用正讓AI計算面臨新的挑戰(zhàn)。
他說,人工智能的主要挑戰(zhàn)在于工作負載具備獨特性,在訓練側與推理側都需要大矩陣乘法;人工智能架構具備獨特性,內核數量多,大量并結構,以及點對點通信。所以,人工智能SoC需要以下一些特性:其一是解耦架構,分層堆疊,每層均可擴展或收縮;其二是支持基于廣播推送的可配置多播網絡IP;其三是非凡的服務質量(QoS),以具備端到端QoS規(guī)劃的非阻寒路徑來控制帶寬與延遲。
由于新SoC內部體現出的是一種新的數據流,一般來說,想實現快速有效的點對點數據交換,就需要大量的計算單元。傳統(tǒng)架構運行方式不同,采用中央存儲作為數據交換系統(tǒng)。而人工智能系統(tǒng)需要任意位置數據交換,這可以通過廣泛的接口而實現,并需要支持長突發(fā)傳輸。Orion AI的一個關鍵優(yōu)勢就是不僅能夠支持多重多播請求,并支持非阻塞傳輸,而且可以發(fā)揮極致性能,具有萬億字節(jié)每秒(TB/s)吞吐量,2GHz以上數據帶寬高達1024位總線,有1000個內核。其內置人工智能利用先進人工智能算法,在解決方案空間搜尋較有效率解決方案。在功耗方面也實現了終極效率,采用先進低功耗管理技術來提升能效。
讓芯片互連成一張網
作為業(yè)界領先的內部互連IP供應商,NetSpeed
Systems聚焦于人工智能、汽車電子和高性能計算的SoC。此次推出的業(yè)界首款以人工智能為基礎的SoC芯片內部互連解決方案Orion AI支持多播與廣播等先進特性,能極大提升人工智能SoC與加速器ASIC的性能與效率,可廣泛應用于數據中心、自動駕駛、AR/VR,以及先進視頻分析。Orion AI由NetSpeed經過硅驗證的Orion IP構建而成,這些Orion IP已經授權給地平線機器人、寒武紀、百度以及Esperanto等領先的人工智能公司。
黃啓弘在介紹芯片內部互連解決方案時解釋說,區(qū)別于其它競爭方案,NetSpeed的SoC總線設計是放棄傳統(tǒng)的總線理論,將互聯網的網絡拓撲理念引入到芯片內部設計,即采用數據路由和分組交換技術替代傳統(tǒng)總線結構,用互聯網的方法分發(fā)出去。這從架構上解決了由于地址空間有限導致的傳統(tǒng)總線結構可擴展性差,分時通信=效率低下,以及全局時鐘同步引起的功耗和面積較大等一系列問題。
他表示,Orion AI為極致性能而生,片上帶寬高達萬億位,并具備支持數千計算引擎的底層架構。它提供超寬數據通路,接口位寬高達1024位,內部結構位寬更高,并可支持高達4K字節(jié)的長突發(fā)傳輸。
加快SoC上市時間
Orion AI還有一個重要優(yōu)勢,即節(jié)省SoC設計時間,它由NetSpeed的圖靈機器學習引擎提供支持,該引擎使用監(jiān)督學習來探索和優(yōu)化SoC設計與架構。這是一種以人工智能為核心的設計方法,就像有一位隨時在線的建筑大師給出設計建議。處理器架構師可以采納圖靈的建議,然后花時間去解決SoC設計中的其他難題。這樣就大大縮短了SoC的開發(fā)設計時間。
黃啓弘表示,利用NetSpeed Orion AI的幫助,特斯拉自動駕駛芯片從設計到流片只花了9個月的時間,這在以前是難以想象的。除了特斯拉,還有上面提到的其他幾家中國頂級人工智能公司,如地平線機器人、寒武紀和百度,都是這方面的成功案例。
他較后總結道,今天,以SoC應用為代表的新技術正在改變全世界溝通與交互的方式,而NetSpeed正是下一代SoC技術的核心。不論是正在為緩存一致性解決方案殫精竭慮的硬件架構師,還是試圖用高性能、高效率互連技術打破性能瓶頸的SoC設計師,抑或是為構建高彈性、高容錯性系統(tǒng)而百轉千回的安全產品經理,都能在NetSpeed找到較佳的解決方案。
相關閱讀:
- ...· “芯創(chuàng)杯”首屆高校未來汽車人機交互設計大賽報名正式啟動
- ...· 探秘第二屆衛(wèi)藍山鷹“創(chuàng)新·共享”試驗技術論壇!
- ...· “2018中國半導體生態(tài)鏈大會”在江蘇省盱眙舉行
- ...· 新主題新規(guī)劃,CITE 2019瞭望智慧未來
- ...· 從汽車到工廠,TI毫米波傳感器致力于創(chuàng)造更智能的世界
- ...· 意法半導體(ST)、Cinemo和Valens在CES 2018展上聯合演示汽車信息娛樂解決方案
- ...· 北京集成電路產業(yè)創(chuàng)新發(fā)展高峰論壇即將在京召開
- ...· 三菱電機強勢出擊PCIM亞洲2017展
- ...· Efinix® 全力驅動AI邊緣計算,成功推出Trion™ T20 FPGA樣品, 同時將產品擴展到二十萬邏輯單元的T200 FPGA
- ...· 英飛凌亮相進博會,引領智慧新生活
- ...· 三電產品開發(fā)及測試研討會北汽新能源專場成功舉行
- ...· Manz亞智科技跨入半導體領域 為面板級扇出型封裝提供化學濕制程、涂布及激光應用等生產設備解決方案
- ...· 中電瑞華BITRODE動力電池測試系統(tǒng)順利交付北汽新能源
- ...· 中電瑞華FTF系列電池測試系統(tǒng)中標北京新能源汽車股份有限公司
- ...· 中電瑞華大功率高壓能源反饋式負載系統(tǒng)成功交付中電熊貓
- ...· 中電瑞華國際在電動汽車及關鍵部件測評研討會上演繹先進測評技術