這些差別很大，但本質(zhì)上沒有太大的差別，特別是芯片架構(gòu)上沒有太大的差別。

第一個是云芯片，我們看看今天英偉達的GPU，它是通過不斷地堆積顯存，擴大帶寬來提高性能，除了技術(shù)改進之外，更多的是通過增加硬件成本來提高算率。

對于我們來說，要想超越彎道，就得看能不能通過。存算一體化，三維堆疊等待形式，探索一些新的路徑。

云追求的是奧運精神，更快、更高、更強，在邊緣和終端方面，與云有著不同的場景和需求。

由于邊緣和終端側(cè)，受體積、成本、功耗等限制。，不能追求更高、更快、更強，特別是還有不同的場景和應用需求。事實上，為我們制作芯片提供了更多的機會。。

例如很多團隊把模型和算法結(jié)合起來，一些芯片架構(gòu)也發(fā)生了變化，比如ASIC模式。

其中有許多東西可以做，需要定制，也有更多的機會。

尚德龍：大模型需要高計算能力，這是一個挑戰(zhàn)，也是一個機會，我同意程老師的觀點。

本質(zhì)上，大型模型是一種生成式AI模型，生成AI模型的一個主要缺陷是無法生成知識。，無法產(chǎn)生知識如何呈現(xiàn)通用智能，這是我要問的一個問題。

就云端的機會而言，不要只看芯片，還要結(jié)合算法來討論。

類腦計算本身就是一個很大的系統(tǒng)，我們能不能？通用人工智能可以從現(xiàn)有算法和類腦算法的結(jié)合中實現(xiàn)。，那是一個值得思考的問題。

另外一方面，類腦計算的一個重要起點是高效率，人腦功率不到20瓦，一天饅頭頂沒問題；

一臺機器的功率是幾百瓦，上KW，我們能不能？在算法設計理念上，云端的一些創(chuàng)新設計理念是通過結(jié)合來實現(xiàn)的。。

目前，無論是先進的結(jié)構(gòu)、先進的包裝還是Chiplet，即使很多芯片被包裝在一起，功耗仍然是一個問題，在云端使用時會有一些限制。

為了促進這些領域的發(fā)展，需要一些新的設計方法、設計構(gòu)思。

哈亞軍：如今，我們已經(jīng)進入了一個通用智能時代，很多時候，每個人都想用一個平臺來解決通用問題。

事實上，在各種模型出現(xiàn)之前，計算架構(gòu)也出現(xiàn)了類似的問題——是應該使用一個通用的計算平臺，還是應該使用一個特殊的計算平臺來解決問題？

從我的經(jīng)驗來看，通用芯片市場非常大，難度也很大，所以只有大公司、大團隊、大資本才有實力進入這條賽道。，因為許多東西都是通用的，你需要有生態(tài)，工具應用。

特殊芯片的優(yōu)點是應用清晰，目標場景清晰。，您可以找到一些約束，針對約束不斷進行優(yōu)化，對生態(tài)等方面的要求相對較少，這樣更適合大學和小公司來做。

根據(jù)以往計算平臺的發(fā)展經(jīng)驗，大公司玩通用生存，小公司在專門的計算平臺上有更多的機會。。

同樣的經(jīng)驗也適用于大模型技術(shù)的發(fā)展。

機器人需要解決的問題感知、規(guī)劃、決策、控制幾個相關(guān)問題。

在這些方面遇到的問題，所需的算法和軟件之間存在一些差異。

比如我們以前很多機器人都是圍繞MCU進行控制，做一些簡單的計算，很多決策都是手工編制的，所以也很簡單。

但今天是模型時代，原來很多人工編寫的計劃、決策算法，今天要用大模型來生成。，因此，對于機器人芯片的使用提出了更高的要求：

第一，端面主板芯片需要更大的算率；

要求端側(cè)主板芯片根據(jù)大模型實現(xiàn)感知、認知，提供更大的算率。

第二，是否可以基于一個芯片來實現(xiàn)端邊算率？；

端側(cè)要求的高計算能力不同于云端的高計算能力。云需要做大量的決策和規(guī)劃。端側(cè)的計算不同于GPU中的張量計算。我們能否將這些端側(cè)的計算需求放在一個芯片上，而不是用幾個芯片分開來實現(xiàn)？

第三，機器人需要大量的智能和自主性。

我們可以看到，除了感知、規(guī)劃、決策、控制之外，越來越多的機器人需要更多的智能和自主。

例如，機器人現(xiàn)在可以不斷地與環(huán)境互動和獨立學習，這需要大量的計算來加強學習。這種計算不同于張量計算。現(xiàn)在加強學習有很多分支，有的是基于transformer，有的是基于傳統(tǒng)的馬爾可夫。

這類機器人應用程序需要大量的計算、取樣和迭代，對芯片提出了許多新的要求。

尚德龍：具體服務機器人更注重擬人。，現(xiàn)在市場上的機器人顯然沒有這種特性。

可以看出，酒店的配送機器人和公園里的清潔機器人遇到人時，通常會先停下來，然后慢慢繞道。他們行動很慢，給人一種不好的感覺。

為了實現(xiàn)更好的體驗，感知、決策必須特別快，如果遵循當前的計算系統(tǒng)，毫無疑問，大算率是我們需要的。

若不考慮設計方法，大算率相當于大功耗，現(xiàn)在電池技術(shù)的發(fā)展還跟不上計算的發(fā)展，這種技術(shù)路徑顯然很難走下去。，這些都需要我們有新的創(chuàng)新。

類腦計算、大型模型等都是新的創(chuàng)新。

如今的計算、決策、智能，我自己的一個“偏見”就是，它是一種計算感知，一種計算決策，一種計算智能，它非常耗能。。

能否成為一個真正像人類一樣的智能體，是機器人未來發(fā)展應該考慮的問題。

特別是未來的具體服務機器人，例如，未來如果居家老人對康養(yǎng)機器人的感覺很不好，這樣的機器人市場也不會很好。

我是做類腦計算的，我還是很佩服的。將現(xiàn)有的計算機制與類腦計算系統(tǒng)相結(jié)合，從而找到新的突破口。。

哈亞軍：關(guān)于這一問題，我有兩種感覺：

首先，通用智能要與機器人相結(jié)合，意味著芯片研究的前沿重點要從云端慢慢發(fā)展到邊緣端，邊緣芯片研究將變得越來越重要。

由于本質(zhì)上，機器人是一個邊緣平臺。。

從最近行業(yè)的發(fā)展可以看出，很多企業(yè)，尤其是原來做算法的企業(yè)，都在布局芯片行業(yè)。相信未來邊緣端的機器人廠商會有更多的布局。

其次，雖然大模型似乎可以解決機器人遇到的所有問題，但我個人并不這么認為，無論是機器人還是無人駕駛汽車，這個算法很難解決他們遇到的所有問題。

有時候機器人對決策的準確性要求很高。即使機器人達到了99.9%的決策準確性，當機器人真正與人打交道時，我們對某些情況的準確性需求可能是100%。

在這個時候，我們不能完全依賴智能計算。

我們?nèi)匀恍枰獋鹘y(tǒng)的算法才能智能計算出來。

在我看來，傳統(tǒng)算法不能丟失，在未來的世界里，傳統(tǒng)算法和智能算法將并存，通過各種方式提高決策的準確性。。

黃好城：人的聰明程度取決于以前所學的知識，我們的大腦將以前所學的知識儲存為記憶，能否很好地利用以前的記憶，決定了人類的聰明程度。。

例如，當老年人患上老年癡呆癥，失去記憶時，他的智力也無法體現(xiàn)出來。

我們會不斷感知周圍的環(huán)境，在服務機器人上做圖像和視頻學習。在這個過程中，儲存的大量數(shù)據(jù)是否得到了更好的利用，云端和邊緣是否得到了更好的訓練，關(guān)系到機器人是否足夠智能。

當機器人在許多應用領域或處理緊急情況時，它不能從一開始就很好地模擬和訓練。如果你想進入千家萬戶，你需要不斷學習和進步，尤其是服務機器人設備。通過高效利用本地存儲資源，實現(xiàn)智能化。

前面提到的近期存儲計算，通過對邊緣端存儲的數(shù)據(jù)進行重新分類和預處理，甚至將一些類決策放入邊緣端和靠近存儲的計算芯片中，一方面可以帶來更低的功耗收益，使機器人的續(xù)航性能更好，另一方面可以減少機器人對主計算單元的依賴。

03 在ic設計中使用大模型。

問題：ic設計中如何應用AI算法？

黃好城：我們確實看到AI已經(jīng)開始幫助工程師打代碼了。然而，在芯片設計過程中，目前的AI技術(shù)幫助工程師打代碼而不是工程師。

AI技術(shù)在設計方法上帶來了許多輸入，工程師省略了寫作細節(jié)，重復模塊代碼。，可替代AI幫助您生成。

在使用了更多的AI輔助工具之后，工程師將有更多的精力參與到更高級的工作中，作為一些架構(gòu)師的角色。

她們不再需要做設計驗證，更多的是做A。、B、綜合選擇C方案，對比每一個ic設計的模塊化方案，這樣可以做出更好的PPA。（Performance、Power、Area）評估，而非放到最后，等架構(gòu)師得到ic設計方案后，再進行數(shù)據(jù)流、特性的模擬驗證。

這樣可以很好地提高芯片前端設計。

芯片當然不僅僅是前端設計，還有后端物理實現(xiàn)。

AI在后端物理實現(xiàn)中也有很多應用，因為物理實現(xiàn)中有很多自動布局布線的工作，原來都是靠EDA軟件來完成的。

目前我們正與國內(nèi)一些廠商一起進行AI算法的組合，提高走線自動布局的效率，嘗試各種放置方式，使芯片面積做得更好更合理。

哈亞軍：總而言之，這個問題就是，AI for IC、IC for AI。

如你所見，國內(nèi)外很多EDA公司的確在整個EDA公司。 在flow的各個階段，我們可以看到許多這樣的例子，考慮使人工智能改變以前的設計方法或工具。

另外，IC還能加快智能EDA工具的發(fā)展。

尚德龍：我是國內(nèi)較早接觸EDA工具的人。

實際上，新技術(shù)的發(fā)展已經(jīng)不斷地融入到芯片設計過程中，現(xiàn)在人工智能技術(shù)的發(fā)展也將融入到IC設計過程中。

不過，包含IBM、Intel，他們的核心X86芯片不是基于EDA工具，而是一個7-8人的小團隊。。

因此，在我看來，AI可以賦能IC。從技術(shù)發(fā)展的角度來看，AI確實在逐步提高EDA工具的效率和水平。然而，如果AI想取代設計師做包羅萬象的ic設計工作，還需要時間。

程健：我比尚老師更激進，我個人認為，至少在ic設計領域，AI技術(shù)必將完全取代人類。。

之所以這么說，是因為，參照人工智能技術(shù)的發(fā)展經(jīng)驗，AI能做的就是下圍棋、玩游戲等有明確規(guī)則的事情。

以下圍棋為例，AI不僅可以下圍棋，而且可以清楚地看到對手是如何下圍棋的。在這種情況下，AI往往比人們做得更好。

再來看看ic設計，ic設計的目標也很明確，重點是面積、功耗、功能，這是一個可以規(guī)則化、量化的目標。，而且芯片走線，布局也有明確的要求。

從這個角度來看，我認為AI的ic設計必然會取代人類，而且肯定會比人類做得更好。當然，這需要時間。

目前我們的AI布局、走線都做得很好，但做ic設計還存在一些問題，有哪些方面？

我舉三個例子：

首先，基于神經(jīng)網(wǎng)絡或transformer的AI模型目前正在進行。仍然缺乏執(zhí)行任務的準確性。。

ic設計通常需要高精度，中間有一個小BUG，整個芯片都被廢除了。如何在AIic設計中體現(xiàn)未來的準確性，使其越來越準確，是一個有待解決的問題。

第二，需要將工程師的經(jīng)驗和知識轉(zhuǎn)化為可量化的數(shù)據(jù)。

很多ic設計都是工程師積累的長期經(jīng)驗。這些經(jīng)歷有的是知識，有的是可以描述的，有的是無法描述的。這就需要將這些經(jīng)驗和知識轉(zhuǎn)化為可以量化和規(guī)則化AI學習的數(shù)據(jù)。

第三，很難獲得ic設計的數(shù)據(jù)。。

由于DeepMind在設計AlphaGo時收集了大量的棋譜，AI下圍棋下得很好，可以說沒有AlphaGo沒有學過的棋譜。

在芯片行業(yè)，互聯(lián)網(wǎng)上找不到很多信息，開源項目很少。很多芯片公司只能獲得一些數(shù)據(jù)，這對AI學習來說是一個很大的問題。

在我看來，如果能夠解決這三個問題，未來AI肯定能夠取代人類進行ic設計。

04 生態(tài)學是AI芯片的重點

問題：如何從技術(shù)創(chuàng)新、人才培養(yǎng)、市場需求三個方面共同推進芯片生態(tài)建設？

黃好城：在我看來，最重要的是市場需求。

客戶和消費者只有在需要產(chǎn)品的時候才會花錢買單。只有在這些資金的支持下，他們才能促進公司的發(fā)展，促進產(chǎn)學研合作，每個人都有一個良好的就業(yè)環(huán)境，這是一種供求關(guān)系。

現(xiàn)在國內(nèi)的一個好趨勢是，各大甲方都更愿意使用國產(chǎn)芯片和存儲產(chǎn)品。，不只是嘗試，而是大規(guī)模出貨。

對于芯片公司來說，當我們開發(fā)新一代主板芯片時，我們也愿意使用國內(nèi)IP公司提供的IP產(chǎn)品，我們目前的控制器，Chiplet技術(shù)，甚至RISC-V 國內(nèi)供應商已使用CPU。

在使用了國內(nèi)供應商的CPU之后，我們也在幫助他們調(diào)試他們的CPU，并給他們很多建議。

就學校而言，每年都有更多優(yōu)秀的畢業(yè)生帶著自己在學校掌握的AI技術(shù)進入公司，這也是企業(yè)的好資源，讓我們的整個生態(tài)不斷發(fā)展。

哈亞軍：本人重點介紹人才培養(yǎng)。

不管是芯片還是人工智能，這兩個行業(yè)都有一個特點，從某種意義上說，行業(yè)領先于學術(shù)界，對于人才培養(yǎng)有很多特殊要求。

就人才培養(yǎng)而言，過去更注重培養(yǎng)學生，而要把這件事做好，其實，教師還需要培養(yǎng)，因此，我們需要建立一個新的工程培訓體系，這個體系既可以培養(yǎng)學生，也可以培養(yǎng)教師。

從教師培訓的角度來看，教師應該每隔幾年在企業(yè)呆上幾個月，了解公司的實際進展和需求，包括教師在學校講課的教材。學校的企業(yè)導師需要及時給出反饋，讓他們看看這些教材是否符合企業(yè)的需求。

就學生培養(yǎng)而言，要增加流片的機會，增加學生到企業(yè)實習，增加學校和公司共同做項目的機會。

學校和企業(yè)的定位差別很大，企業(yè)追求利潤，學校追求科學研究，雙方合作也需要完善的合作模式。。

尚德龍：我深深地感受到了這個問題，但我只想強調(diào)兩個字——生態(tài)。

商品生態(tài)、科研生態(tài)、人才培養(yǎng)生態(tài)、良好的生態(tài)才能真正做到這一點。

程?。?/strong>然后尚老師教的生態(tài)，我想說，事實上，芯片從設計、生產(chǎn)、應用到反饋，形成積極的反饋是非常重要的。