開啟下一代人工智能SoC極致性能與終極效率

日前，在北京舉辦 NetSpeedSystems新產品發(fā)布會。NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘重點介紹了NetSpeedSystem 即將推出的為人工智能系統(tǒng)SoC的片內互連所開發(fā)的架構級 IP——Orion.AI，并分享了公司戰(zhàn)略及市場遠景。他表示，新發(fā)布的Orion AI將為下一代人工智能SoC帶來極致性能與終極效率。

人工智能SoC面對的挑戰(zhàn)

黃啓弘認為，人工智能技術在視頻、語音、預測、機器人及診斷等應用中正漸入佳境。這些新興應用對處理能力提出了更高的需求，推動著計算架構發(fā)生天翻地覆的變化，并急劇改變著SoC設計模式。但是新應用正讓AI計算面臨新的挑戰(zhàn)。

他說，人工智能的主要挑戰(zhàn)在于工作負載具備獨特性，在訓練側與推理側都需要大矩陣乘法；人工智能架構具備獨特性，內核數量多,大量并結構，以及點對點通信。所以，人工智能SoC需要以下一些特性：其一是解耦架構，分層堆疊，每層均可擴展或收縮；其二是支持基于廣播推送的可配置多播網絡IP；其三是非凡的服務質量(QoS)，以具備端到端QoS規(guī)劃的非阻寒路徑來控制帶寬與延遲。

由于新SoC內部體現出的是一種新的數據流，一般來說，想實現快速有效的點對點數據交換，就需要大量的計算單元。傳統(tǒng)架構運行方式不同，采用中央存儲作為數據交換系統(tǒng)。而人工智能系統(tǒng)需要任意位置數據交換，這可以通過廣泛的接口而實現，并需要支持長突發(fā)傳輸。Orion AI的一個關鍵優(yōu)勢就是不僅能夠支持多重多播請求，并支持非阻塞傳輸，而且可以發(fā)揮極致性能，具有萬億字節(jié)每秒(TB/s)吞吐量，2GHz以上數據帶寬高達1024位總線，有1000個內核。其內置人工智能利用先進人工智能算法，在解決方案空間搜尋較有效率解決方案。在功耗方面也實現了終極效率，采用先進低功耗管理技術來提升能效。

讓芯片互連成一張網

作為業(yè)界領先的內部互連IP供應商，NetSpeed Systems聚焦于人工智能、汽車電子和高性能計算的SoC。此次推出的業(yè)界首款以人工智能為基礎的SoC芯片內部互連解決方案Orion AI支持多播與廣播等先進特性，能極大提升人工智能SoC與加速器ASIC的性能與效率，可廣泛應用于數據中心、自動駕駛、AR/VR，以及先進視頻分析。Orion AI由NetSpeed經過硅驗證的Orion IP構建而成，這些Orion IP已經授權給地平線機器人、寒武紀、百度以及Esperanto等領先的人工智能公司。

黃啓弘在介紹芯片內部互連解決方案時解釋說，區(qū)別于其它競爭方案，NetSpeed的SoC總線設計是放棄傳統(tǒng)的總線理論，將互聯網的網絡拓撲理念引入到芯片內部設計，即采用數據路由和分組交換技術替代傳統(tǒng)總線結構，用互聯網的方法分發(fā)出去。這從架構上解決了由于地址空間有限導致的傳統(tǒng)總線結構可擴展性差，分時通信=效率低下，以及全局時鐘同步引起的功耗和面積較大等一系列問題。

他表示，Orion AI為極致性能而生，片上帶寬高達萬億位，并具備支持數千計算引擎的底層架構。它提供超寬數據通路，接口位寬高達1024位，內部結構位寬更高，并可支持高達4K字節(jié)的長突發(fā)傳輸。

加快SoC上市時間

Orion AI還有一個重要優(yōu)勢，即節(jié)省SoC設計時間，它由NetSpeed的圖靈機器學習引擎提供支持，該引擎使用監(jiān)督學習來探索和優(yōu)化SoC設計與架構。這是一種以人工智能為核心的設計方法，就像有一位隨時在線的建筑大師給出設計建議。處理器架構師可以采納圖靈的建議，然后花時間去解決SoC設計中的其他難題。這樣就大大縮短了SoC的開發(fā)設計時間。

黃啓弘表示，利用NetSpeed Orion AI的幫助，特斯拉自動駕駛芯片從設計到流片只花了9個月的時間，這在以前是難以想象的。除了特斯拉，還有上面提到的其他幾家中國頂級人工智能公司，如地平線機器人、寒武紀和百度，都是這方面的成功案例。

他較后總結道，今天，以SoC應用為代表的新技術正在改變全世界溝通與交互的方式，而NetSpeed正是下一代SoC技術的核心。不論是正在為緩存一致性解決方案殫精竭慮的硬件架構師，還是試圖用高性能、高效率互連技術打破性能瓶頸的SoC設計師，抑或是為構建高彈性、高容錯性系統(tǒng)而百轉千回的安全產品經理，都能在NetSpeed找到較佳的解決方案。

www.netspeedsystems.com