芯片測“功”唯快不破阿波羅人工智能模型來了

　　 隨著集成電路技術的不斷發展，芯片規模越來越大、集成度越來越高。與此同時，在設計和使用芯片時，掌握并管理其功耗就變得越來越重要。

　　為在設計或使用過程中管理好芯片功耗，杜克大學電子與計算機工程系教授、杜克大學計算進化智能實驗室聯合主任陳怡然團隊開發出一種新的人工智能模型——阿波羅（APOLLO）。該模型在硬件上可進行每秒數十億次計算，理論上能用于預測任何類型計算機處理器(CPU)的功耗，且僅需要極低的額外硬件開銷。它能提高處理器效率并為人們開發新型微處理器提供幫助，相關性能已在高性能微處理器上得到驗證。

　　日前，該相關成果在第54屆IEEE/ACM年度微體系結構國際研討會（MICRO-54）上發布，并獲本屆唯一“最佳論文獎”。

　　功耗難題

　　在現代計算機處理器中，計算頻率可達每秒數十億次。隨著晶體管密度和時鐘頻率顯著增加，功耗也急劇增加。

　　功耗越大，芯片產生熱量越快。如果不能及時散熱，設備溫度就會升高，這將導致設備不能正常工作甚至損壞。同時芯片內部的功耗與電流需求突然波動，會導致內部電磁問題，從而影響處理器的速度。此外，高功耗產生熱量也對封裝、散熱系統等提出了更高要求。因此，功耗管理已經成為貫穿芯片設計和使用全流程的問題。

　　“CPU運行中涉及非常多的信號，其功耗每時每刻都在發生變化。”該論文第一作者、陳怡然團隊成員謝知遙告訴《中國科學報》，“因此，人們設計CPU、或CPU運行時，需要對其功耗有非常充分的了解，這樣才能設計出好的CPU，讓其發揮最佳性能。”

　　在設計芯片時，設計工程師們往往依賴行業標準的功耗分析工具。比如，根據單個信號網絡的切換以及這些網絡驅動的電容性負載進行計算。“人們想了解芯片的功耗，通常的方法是進行模擬。這類方法比較準確，但缺點是計算成本很高。”謝知遙解釋說，“模擬的方法非常多，相關的模擬軟件技術上也很成熟，但它模擬計算起來很慢，不能滿足人們對掌握芯片即時功耗的需求。”

　　在實際應用中，CPU需要運行各種不同的程序，每個程序對應的功耗各不相同；即使運行同一個程序，在不同時刻，芯片的功耗也會發生瞬時變化。CPU被設計并制造出來后，如果全新場景的實際功耗比預先設計的高很多，就可能出現問題，但要詳細掌握芯片在不同工況下的即時功耗并非易事。

　　“在過去20多年里，功耗模型已被反復研究，但準確、快速、低成本、自動化地進行功耗分析仍然難以實現。”陳怡然告訴《中國科學報》，“由于很多功耗模型是設計師們針對某一款CPU人工調試而成的，這造成了巨大的人力成本。同時，隨著CPU設計日趨復雜，想要人工設計準確的功耗模型變得越來越困難。”

　　因“簡”而快

　　“這種方法的核心是個非常簡潔的功耗模型。”謝知遙說，“和以前通過模擬計算的方式不同，我們這個模型并非進行準確的模擬，而是進行快速的估算。”

　　處理器工作時，芯片內部涉及數百萬個關鍵信號，該模型通過人工智能技術，自動選取極少量（約100個）與功耗最相關的CPU信號作為輸入，然后建立一個快速的線性模型，用于對每個周期的功耗進行預測或監測。

　　“這100個典型信號可以形成一個‘輕量級’的、非常簡潔的功耗模型。”謝知遙強調說，“而且，信號選取（不是隨機抽取）由人工智能自動完成，它擺脫了對工程師的依賴，從而讓模型的計算速度大大提升。”

　　CPU在運行的時候，人們會對功耗進行控制，如果功耗過高，就必須想辦法將它降下來。事實上，工程師們也積累了不少辦法，可以讓功耗降下來，但所有這些需要一個前提，就是人們能夠快速且準確地掌握芯片功耗的即時變化。

　　遺憾的是，在計算功耗時，工程師們常面臨一個無法跨越的時間“窗口”。比如，之前快速功耗模型的計算速度可能是每毫秒進行一次——人們只能估算一個1毫秒的功耗平均值。

　　除信號選取和模型訓練是自動完成之外，阿波羅的訓練數據也通過算法自動生成，這讓其因“簡”而快成為可能。

　　論文表明，阿波羅可以在幾分鐘內獲得幾千萬時鐘周期的功耗，而傳統基于emulator的工業界方法需要長達兩個星期時間。在準確率方面，阿波羅也可以可以達到90%至95%。另外，阿波羅的功耗分析可以精確到每個時鐘周期，之前任何方法在這種速度下都無法獲得這樣高分辨率的功耗分析。

　　“每毫秒計算一次的時間分辨率遠遠不夠，因為在1毫秒之內，有可能其功耗前半程很低，后半程很高，雖然我們計算出了功耗數值，但它并不能反映處理器的真實工作狀態。”謝知遙說補充說，“我們的模型可以控制在0.3納秒（0.000001 毫秒）。 就是每0.3納秒，就可以計算一次實時功耗值。”

　　面向應用

　　因為以前無法了解處理器的即時功耗，工程師們在進行芯片設計時，為避免應用中功耗波動帶來的影響，往往會為功耗設計一定的余量。

　　現在，阿波羅可以在極短時間內，對芯片內部的即時功耗變化進行反饋。即使芯片內部由于復雜的交互出現了電壓的快速波動，工程師們也能及時采取措施，對CPU功耗和溫度進行管理，從而發揮CPU的最佳性能，并保障其運行穩定。

　　“因為阿波羅非常簡潔，它的成本和面積都很小（約占用CPU芯片0.2%的面積），所以可以將它做成硬件，整合進芯片內部。”謝知遙說，“這樣，在使用過程中，一旦監測到處理器功耗的異常變化，我們就可以讓它采取一些自我調節措施，把功耗降下來。”

　　如果在設計芯片時，加入這樣的功耗管理模塊，不但性能可以得到提升，其運行的穩定性也能得到保證。

　　在該項研究中，ARM公司提供了很多幫助，目前這一模型已經在ARM的多款高性能商業處理器上進行過驗證，顯示了較領先的芯片性能。

　　“這不是一項純理論研究，而是具備非常強的工程性研究特點，或者說是一項幾乎就能應用在產品里的研究。”陳怡然說，“在商業化應用之前，該模型可能還需要在更多的平臺上進行測試和綜合評估。至于它能不能最終落地，什么時間能成為產品，會受到多種因素影響，還需要時間來證明。”