記憶體是各種電腦系統中儲存數據不可或缺的硬體單元，但現在新一代的智慧記憶體有了更多的應用！不但可以儲存數據，也可以進行龐大的數據運算，能如人腦一般結合儲存與運算於一體，這樣的記憶體內運算(in-memory computing)架構模仿人腦神經網路的架構，是未來實現高效能、低耗電人工智慧的希望所在。
陽明交通大學電子研究所侯拓宏教授所領導的團隊深耕記憶體內運算技術多年，透過記憶體元件、記憶體電路、人工智慧演算法的跨層級共同設計，一步步提升記憶體內運算的效能。在今年的IEEE亞洲固態電路會議 (IEEE A-SSCC)中，陽明交大與工研院電光系統所團隊共同合作，以商用化的28奈米製程技術，發表目前全世界最高能效的三元卷積神經網路 (ternary CNN)記憶體內運算加速晶片，每瓦功耗每秒可進行超過兩萬兆次的運算(20943 TOPS/W)，這較過去的技術大幅提升了3.7倍，面積使用效率亦提升了4.5倍，樹立了全新的記憶體內運算性能里程碑。透過了跨層級共同設計技術，此晶片也克服了記憶體內運算中存在的計算誤差，展示了極低耗電且高準確的語音關鍵字辨識能力。目前與工研院的團隊正積極將此技術導入商業用「即呼即醒」的智慧藍芽耳機中。
侯拓宏教授表示，人工智慧的瓶頸之一在於運算硬體的效能，也是人工智慧運算無法由資料中心全面普及到個人行動裝置的主要原因。記憶體內運算因為其高能效的特性，是目前全世界各大IC設計公司與記憶體公司關注的破壞性技術，但真正的潛力仍未被完整的實現。這次的成果充分展現了記憶體內運算的進步性，且使用商業化的半導體技術，讓此技術的商品化導入更加容易。相信再經過幾年的努力，打造如人腦一般高效的人工智慧運算硬體將不再是遙不可及的夢想。