【香港中通社6月14日電】(香港中通社記者 梁嘉軒)機器人、智能家居、智能教育……這些過去抽象的概念正在人工智能(AI)的普及下,成為生活的一部份。而一款運算能力強的芯片正是其「心臟」。
香港科技大學日前舉辦年度初創主題活動「獨角獸日」。智能晶片與系統研發中心展示了具備離線運算能力的AI視網膜篩檢設備,其離線運算的特性正意味著本地的算力足以應付視網膜檢查這種複雜的運算,背後展示的是這款約比手掌大的芯片,有著強大的運算效能。
該研發中心是科大全資擁有的研發中心,也是亞洲首個研發AI芯片設計的跨國聯盟,專注發展積體電路設計技術,推動以數據為本的嶄新運算模式,並設計高效能的AI硬體平台。
研發中心主任研究員莫秉燦告訴中通社記者,應用在視網膜篩檢設備的這款芯片適用於絕大多數AI應用場景,只要經訓練的AI模型能夠部署其中,即可實現功能運行。在處理模型規模方面,目前中心技術的定位大致對應10B參數量級的模型需求。
對比傳統概念上,認為AI運算需使用笨重的GPU圖形處理器,莫秉燦告訴記者,他們所設計的是專門為AI運算而生的NPU(神經網路處理器)。據了解,NPU具有可模擬人腦神經網路的架構,可平行處理大量數據。在實際的應用場景上,使用NPU處理AI工作,有助釋放CPU(中央處理器)和GPU來執行其他工作。
莫秉燦介紹,智能晶片與系統研發中心早於2020年成立,而因為其研究單位的定位,為促進芯片的商業轉化,在相關技術研發完成後,中心將授權予他們所分拆出來的公司——港芯智能,讓客戶賦予芯片更多應用場景。而港芯智能也是中心第一家分拆出來的。
目前,以MoE(專家混合模型)是傳統大模型算法數據量不全、運算量過大的解決方案之一,為全球不少AI企業和研發機構的思路,一個個小模型就像各領域的專家全部設在另一個負責統籌的模型下;負責統籌的模型則會決定在回應用戶需求時,需要激活哪些「專家」。智能晶片與系統研發中心的這款芯片,正具備了統籌的能力,可以作為模型的中心。科大目前的不同科研團隊正研發在不同場景下的專用模型,而這些模型可以放在他們的芯片下跑,讓模型發揮出更大的作用。
值得一提的是,縱然這款設備可以滿足不少AI終端的需求,但並不需要如手機版極其先進的芯片製程,他們的NPU將圍繞12或28納米的製程進行設計,並由台積電或中芯國際生產。由於28納米不屬於先進製程,而12納米也早已經被中芯國際攻克,因此他們在選擇芯片製造商時,不會受到美國對華芯片制裁的影響。◇