生成式 AI 可望在2024年開創新契機

果然一如所料！一年之內，生成式 AI 就極其迅速地達到所謂的 Gartner 膨脹式期望的峰值(Peak of Inflated Expectations)，這應該是一項新的紀錄。今年度針對 ChatGPT 的探討與應用已經在在說明，生成式 AI 不僅會持續存在，也被預期會真正改變完成知識工作的方式。可以說，這真的是千載難逢的變革技術之一。從電子商務網站的即時聊天功能，到軟體開發的程式碼生成等等，我們可在萬物中隨處看見生成式 AI 運作的範例。

去年進行 2023 年對 AI 的預測時，我看見諸多趨勢的雛形(圖 1)。其中包括預測企業將簡化異質元件的整合，在適用於多晶粒系統的解決方案可發現到這一點；我們也將看到採用 AI 設計工具的數量持續增長，新思科技已追蹤 300 組以上 AI 驅動的商業投片，而且這個趨勢還在加速；預測生成式 AI 將加速應用開發，很快就會成為全世界的新應用平台。同時，AI 會對追求淨零碳排有所助益，而這正在發生。

2024 年的 AI 功能又有哪些？

讓我們來探討一下，生成式 AI 在 2024 年會如何形塑電子業的發展，以及隨著 AI 更加普及而需要應對的關鍵考量。

AI Copilot：逐漸成為唾手可得的設計工具

如果您有在社群上追蹤微軟的 Satya Nadella，那麼您應該知道現在是「Copilot 的世代」(如果沒有的話，那麼建議可以看一下 Satya 最新 2023 年度 Ignite 大會主題演講)。

半導體業正面臨著挑戰與機會。晶片設計涉及的規模與系統性複雜程度不斷增加，而工程人才的短缺卻不利於創新。同時，與地緣政治逆風交織的供應鏈壓力持續存在。儘管如此，工程的獨創性仍持續突破，延伸了摩爾定律的優勢，提升工程產能，創造出有史以來最繁複的電子裝置與系統。

在此背景下，生成式 AI 預期會在新的一年發揮日益重要的作用。而晶片設計 copilots (Chip design copilots)在 EDA有相當豐富知識領域，又可彌補新人才短缺的困境，因此可以針對知識共享提供高效率途徑，並提升現有工程資源的產能。例如，不必在任何指定的設計環境中停下來研究解決方案，也不用費力地閱讀多份文件或聯絡應用工程師；嵌入至工具的 Copilot 幾乎可以立即因應所產生的問題。

隨著 2024 年的進展，生成式 AI 驅動的 Copilot 將被應用在更多不同產業，我們可以預期看到這些 Copilot 變得更智能且更普及，緊密地整合至矽晶片設計與驗證的工作流程中。從晶片設計的角度來看，Copilot 的功能可以協助工程師在幾秒之內，處理以前需要數小時或甚至是數天的工作。

資料生態系統(Data Ecosystems)已具雛形

生成式 AI 為具備深厚設計知識的大型企業帶來極大希望。業界領袖可以部署自有的 Copilot，來運作數十年經驗中所累積的珍貴方法(methodology)、架構(architecture)與其他特定領域資料(請參閱 NVIDIA 的 ChipNeMo 論文)。同時，在 2024 年，生成式 AI 將進一步擴展晶片設計製程的自主化，讓全新晶片能夠以更快的速度進行創新與擴展，並在利用業界標準的參考流程與優化知識的同時，專注於與核心價值相關的議題。

EDA 公司與 IP 供應商將發揮重要作用，結合其深厚的專業、流程和 IP 與客戶自有的網域資料，在整個技術堆疊中建立強大的生成式 AI 解決方案。2024 年，我們可能會看到晶片設計的早期資料生態系統的形成，這與 2023 年度 OpenAI 首次開發者大會 (OpenAI DevDay) OpenAI 的 Sam Altman 所探討的生態系統相似。這些資料的彙整應用將會推動大規模資料集(data sets)的可用性，可反映程式碼、規格、暫存器轉換層級 (register-transfer level, RTL) 與模擬等多種模態中的晶片設計領域，促使生成式 AI 應用的模型進行更佳且效率更高的訓練。

然而，除非這樣的全新商業模式允許以安全且經濟上可行的方式共享資料，否則這些合作關係不會成功。也因此，接受委託的微型服務模式興起，提供企業一種可尋求探索並投入生產使用的模式(如需深入探討，請參閱 NVIDIA 在 AWS re:Invent 大會上的最新發表內容)。

晶片設計將變得更加以軟體為中心

像GitHub Copilot 等軟體產品開發 AI 已經迅速被採用，截至今年年初，這樣的技術已為 46% 以上的全新節點提供支援。半導體的硬體系統設計也已隨著以軟體為中心的設計趨勢開始演變。從設計程式編寫與 RTL，到設計驗證與實作的各個步驟，生成式 AI 有可能會改變晶片設計流程，往系統自動化的方向發展。

在一篇引人注意的部落格文章將生成式 AI 導入半導體與電子設計中，微軟在其中概述了普遍、敏捷的軟體開發實務，可能會如何持續影響硬體設計領域。由於各種半導體業的功能發展已經日趨成熟，且正在挑戰晶片設計的最新「瀑布(waterfall)」模型，這個趨勢將更有可能會在 2024 年加快速度。例如，生成式 AI 將能夠建立速度極快的原型流程，為設計程式編寫與創作帶來高度自動化的可選擇性，並將支援輔助資料檔的勞力密集型細粒度開發(fine-grain)抽取出來，像是驗證收斂模型、繁複的斷言(assertions)或隨機限制測試 Stub (constrained-random test stubs)。

AI 經濟潮流將帶動更多 AI 硬體創新

眾所周知，如今 AI 的工作負載運算高度密集。尤其是預先訓練式(pre-training)的大型語言模型 (large language model, LLM)，需要存取需求相當高的 AI 超級運算系統與矽晶片。隨著神經網路的參數檔數量不斷地呈指數性增長(根據估計，每 2 年就超過 200 倍)，即將帶來的 AI 經濟浪潮也越來越清晰。CPU、GPU、xPU 與系統整合領域的開路先鋒正在增強對架構的投資，提供能源消耗與整體擁有成本優勢，擴展 AI 世代。

2024 年，我們將持續看到幾個全新 AI 處理架構亮相，包括備受期待的神經形態運算裝置、光學、甚至是量子電腦，且都有望在未來進一步增強 AI 的經濟浪潮。整合這些異質運算元件將促進業界邁向多晶片系統的發展，並強化對埃米級數位 CMOS 裝置的持續性發展。這些運算裝置目標鎖定資料中心的同時，自動駕駛邊緣(autonomous edge)會持續將重要的運算能力整合至自動駕駛汽車、工業應用與個人運算解決方案，其中創新的重點會是感應器整合(sensor integration)。

負責任地使用 AI 將會開創晶片設計的新途徑

生成式 AI 以前所未見的方法來運作資料。事實上，很大程度是由於數位化世界中的資料激增而促成的。AI 領域的幾位領袖已經提出警示，生成式 AI 創新可能超出我們所能理解的影響與因應結果的能力。

2024 年，資料隱私與管理將會被深入探討。業界與政府已經就 AI 對永續發展、社會、商務產生的影響與道德考量進行多次討論。例如，最新發表的 NIST AI 風險管理架構提供一種適用於 AI 產品開發的重要參考工具。隨著 AI 在我們的世界中日益根深蒂固，可提供指南與保護的監管架構的興起，似乎不足為奇。

「負責任地使用」可能聽起來像是一種限制；然而，這卻是一項必要的條件。我在 2023 年度矽谷領導力大會的主題演講中，透過從當前的低信任度互動到未來有潛力的「共享與發現」、或是共同創造者、解決問題的網路等議題，探索了提升 AI 在晶片設計中發揮作用的發展方向。為了充分發揮 AI 的潛力，並在人類創造者之間贏得一席之地，AI 必須展現出公平性、穩定性、具有隱私、包容性、透明性且負責任，換句話說，就是「負責任地使用」的所有要素。

新的一年，新的創新

創新是人類與生俱來的特質，而 AI 已展現了如何增強並加速我們的能力。假以時日，AI 甚至會贏得我們的信賴。2024 年，我們應思考自己與 AI 之間的互動，以及如何與之協作。在人類持續推動獨特想法的同時，AI 可以成為我們的共同創造者，協助大家取得更多的成就。這樣的未來，會比我們想像的還要快速到來。