2024年多晶粒(multi-die)系統的下一步

要創造一個真正智慧的世界，所需的系統規模與複雜程度是難以想像。諸如ChatGPT 這樣的應用程式已成為我們生活中不可或缺的工具，需要大量的數據才能運作。截至2023年6月為止，它訓練了3000億字的數據集、每天6000萬的訪問量和超過1000萬的查詢次數，這都還只是個開始。隨著人工智慧(AI)和高效能運算(HPC)等技術越趨複雜，它們所需的頻寬和計算能力需求也將持續擴大。

正當摩爾定律趨緩之際，多晶粒(multi-die)系統架構為生成式 AI 、無人車和超大型資料中心等領域的創新，提供持續加速發展的能力。雖然我們已經看到這個趨勢，且在 2024 年將持續發展，但接受程度卻各有微妙之處，多晶粒系統的設計目前處於2D 到 3D (在某些情況甚至到 3.5D)之間，取決於效能、功耗和面積(PPA)的需求，更具體地來說，就是效能、功耗、外形因素和成本。

多晶粒系統設計能實現充滿智慧的未來，但要讓智慧未來真正落實仍需要多方支援。以下是針對2024年多晶粒系統設計的4個主要預測。

採用多晶粒系統的各個階段

數據資料密集型的應用程式是多晶粒系統封裝(例如 2.5 和 3DIC 設計)的主要驅動力，這並不令人感到意外。鑑於這類型應用本就具有的龐大數據資料量和複雜性，可以預期資料中心在可預見的未來將會是最感興趣的「使用者」。其他領域，像是行動通訊設備，正處於利用多晶粒系統設計的前沿，將根據需求嚴格篩選不同的堆疊層和製程節點；這可能意味著行動通訊應用的晶片設計工程師，將選擇有機基板(organic substrates)這類的封裝方式。

像汽車這樣的產業，通常會向多方供應商採購零組件，可能會基於小晶片(chiplet-based)模組方式，繼續使用 2.5D 封裝。這種方法可確保電子控制單元(ECU)元件易於取得且可以輕易地在像是中介層(interposer)這樣的基板上進行組裝。汽車中使用的晶片,混合搭配已是不爭的事實,而這樣的實務操作可能會在更高程度的標準化中獲益。

複雜性的共通點

垂直整合的複雜度，是採用多晶粒系統的一個主要障礙，勢必也是工程師在 2024 年將持續面臨的挑戰。一般而言,高效能運算(HPC)資料中心有足夠的資源可以管理堆疊，反觀其他行業則無此能力。汽車行業因不做垂直整合，反而依賴生態系統，讓晶片能平穩運作的必要條件也隨之增加，導致多晶粒設計更具挑戰。

談到 3D 堆疊，主要的挑戰包括熱分析、電力分配規劃、冷卻系統和製程的必要條件。儘管 3D 堆疊相當複雜，但已是未來趨勢，而生態系統也必需不斷發展來達成這個目標。隨著堆疊的普及，已經是 2.5D 堆疊首選界面的UCIe，也將進一步發展。複雜性可以透過兩個關鍵因素進一步簡化：共通語言和清晰的規則。2.5D或3D設計元件通用的術語，能使過程更加統一，並且方便構建一個系統供多個合作夥伴共同使用。

規則與描述規則的標準方法，是能讓多晶粒系統創新成功的關鍵要素。就像高速公路上的車輛必須遵守標誌一樣，無論透過哪一種形式,規則將繼續針對矽晶應用進行規範；像是標準化測試和參考流程這樣的特性，將使所有面向的堆疊過程(包括製程)變得更加簡單。

3DIC 設計進展取決於自動化

2.5D是現今的主流技術，而多晶粒系統的設計從頭到尾都是一個手動程序。其成功與否取決於工程師本身的知識、技能和經驗是否符合他們試圖實現的規格。這表示在進行設計整合之前要先手工處理5、6個，甚至 20 個單獨的零件。從這個意義上來說，具備完整架構的自動化與優化的真正3D設計，還沒真正實現。

朝向自動化 3D 實作技術急需的相關舉措，不僅會加快3D晶片發展進程，也會使其更加穩固可靠，以確保與效能相關的要素不會被忽略。儘管這不會在一夕之間發生，但這個轉變(已經開始並將在 2024 年持續進行)最終將涵蓋從架構設計、實作到分析和驗證等各個面向。

AI 可以加速設計空間優化，若沒有 AI，實驗的範圍也將受到限制。在整個過程中，晶粒的數量越多，也會增加流程的規劃與實現最佳配置的難度。

多晶粒系統並非沒有限制

隨著多晶粒系統設計的進步，有些限制可能會持續存在。首先，我們預期高頻寬記憶體(HBM)在 2024 年仍將保持外置，且依據頻寬和熱能的要求，我們可能會看到它朝向晶片靠攏，但其在晶片外的定位不大可能改變。

就堆疊技術而言,高度並不是真正的限制；在當前的技術環境下，除少數例外，一般通常三到四層是上限，主要是因為不僅受限於電源供應，也受到製程技術和可靠性的限制。如同建造摩天大樓一樣，極端的高度會增加一連串結構問題。高堆疊需要更多的製程步驟，也會承擔更多風險，要有信心地解決這些問題需要一點時間。當然，業界正在努力實現這一點，而要實現這個目標，需要廣泛採用全面的自動化技術。

2024 年我們將更加趨近於廣泛採用多晶粒系統，這將在晶片設計和終端應用上激發許多創新。然而，仍然有一些挑戰需要半導體生態系統中所有產業共同合作，克服隨著多晶粒系統設計而來的巨大複雜性，並邁向我們所知可望實現的更智慧化的世界與未來。