NeurIPS 2024大會上，微軟亞洲研究院院長周禮棟發表了題為“硅基世界的‘緣分’——系統與人工智能攜手進化”的主題演講。他提出了一個前瞻性的觀點：未來人工智能的突破，不僅依賴于模型和算法本身，更有賴于與計算機系統的深度融合。圍繞“效率（Efficiency）、可信（Trust）、融合（Infusion）”三大關鍵詞，周禮棟闡述了系統與人工智能之間如何實現雙向賦能、共同演進，從而打破現有技術瓶頸，推動計算機科學邁入以智能驅動的新紀元。本文基于該演講撰寫。
從指數增長的算力到智能的轉化
在全球掀起人工智能（AI）熱潮的今天，我們不妨回到一個根本問題——究竟是什么驅動了人工智能的崛起？
Ray Kurzweil在其2005年的著作《奇點臨近》（The Singularity is Near）中給出了一個廣為流傳的答案。他觀察到，計算能力——尤其是每秒每美元所能獲得的計算量——長期以來呈現出指數級增長。他據此大膽預測，到2023年前后，人工智能將擁有與人類大腦相當的處理能力。這一預測在當時聽起來也許過于理想，但今天看來，已經逐漸接近現實。
Kurzweil的核心洞察在于，智能的演進，歸根結底受限于底層算力的供給。而隨著模型、數據與算法的持續進化，我們越來越清晰地意識到單純的算力增長并不足以轉化為真正的智能。真正的挑戰在于，我們如何有效地將計算能力“變現”為智能能力。
這一“轉化機制”并非自動發生，它依賴于算法的創新，也離不開系統的支撐。系統不僅負責調度資源、管理復雜性，更決定了算力釋放與智能實現之間的效率與可達性。換言之，系統是智能得以生根發芽的土壤。
長期以來，我們往往將人工智能與計算機系統視為兩個平行甚至割裂的研究方向。然而，隨著AI能力的持續提升和資源需求的指數增長，這種二分的視角已經難以為繼。現在，是時候重新審視二者的關系——它們不僅需要協同，更應共同進化。
人工智能與計算機系統的協同進化
回顧過去幾十年，人工智能和計算機系統的進化并非步調一致。上世紀90年代，人工智能曾一度陷入長達二十多年的“寒冬”，算法停滯、資金匱乏、研究熱度驟降。但就在AI逐漸被邊緣化的這段時期，計算機系統卻在持續拓展自身邊界，孕育出一系列為未來智能應用奠定基礎的關鍵技術。
我們見證了多媒體計算的崛起、面向并行計算的GPU迅猛發展、萬維網的誕生、網絡搜索的普及，以及大數據和云計算基礎設施的廣泛部署。每一項系統層面的突破，盡管其初衷未必是直接服務于AI，但最終都成為了后者“蘇醒”的溫床。尤其是在系統層面構建的大規模分布式計算能力，讓人工智能重新煥發出生命力。
AI并不是在真空中崛起的，它的“再度覺醒”離不開系統幾十年的厚積薄發。沒有高吞吐、低延遲的分布式系統，沒有GPU架構與并行編程的進步，就沒有實現今天能訓練百億參數大模型的可能。
這也提醒我們，系統與人工智能從來不是單向依賴的關系。兩者的歷史是交錯演化、彼此推動的。系統為AI的騰飛提供了算力和基礎設施，AI也在逐步改變我們構建和使用系統的方式。從最初的依賴，到如今的共生，系統與AI之間正在形成一種前所未有的協同關系。
計算機系統的進化歷程
隨著人工智能的迅猛發展，尤其是“規模法則”（scaling law）的提出，我們見證了AI能力的指數級提升。擴展法則揭示了只要不斷擴大模型規模、訓練數據與計算資源，AI的性能便會持續躍升。這一趨勢推動了人工智能的快速突破，同時也對底層計算機系統提出了前所未有的挑戰。
為了支撐指數級增長的智能需求，計算機系統必須隨之演化：既能夠在硬件層面提供更強的計算力，還要在系統架構上具備更高的伸縮性與靈活性。
但要真正理解“系統”，不能僅將其等同于強大的GPU、云平臺或編程工具鏈。對真正從事系統研究的學者而言，系統更是一種“思維方式”——一種管理復雜性、構建秩序的哲學。正是這種系統思維，使我們能夠在眾多復雜組件和高度動態的相互作用中構建出可控、可靠且具擴展性的結構。
過去幾十年中，系統研究積累了豐富的原則與機制，如抽象分層、關注點分離、容錯設計與資源隔離等。這些原則幫助我們構建了從操作系統到云服務的一系列關鍵基礎設施。但隨著AI帶來的計算復雜度與動態性不斷上升，傳統的系統設計方法正逼近邊界。我們越來越難以依賴經驗法則預見系統行為，也很難再以線性的方式將系統擴展到下一個數量級。正如攀登高峰一般，系統的擴展不是線性爬坡，而是一次次“回到山腳”，重新建立假設與架構、重新規劃路徑與工具。每一次跨越數量級的系統升級，本質上都是一次系統的重新再造。
在這個過程中，我們也逐漸意識到，人工智能不僅是系統的負載和挑戰，更可能成為新的“系統伙伴”。面對系統擴展過程中的復雜性、不確定性與非線性，人工智能有望輔助規劃、優化決策、自動調參、系統實現和維護，甚至參與設計。
系統為AI提供運行的土壤，AI也將在反哺系統設計中發揮越來越大的價值。這是一個深層次的共生過程，也是計算機科學走向新紀元的前奏。
圍繞三個核心目標實現協同進化
人工智能與計算機系統如何從“相互依賴”走向“協同進化”？這一問題的答案正逐漸清晰：我們必須跳出以往單點突破的思維方式，轉向系統性、結構化的協同創新路徑。
圍繞“效率（Efficiency）、可信（Trust）、融合（Infusion）”三個核心目標，我們看到了一條可行的進化路線。這三個維度并非孤立存在，而是共同構成了人工智能與系統之間相互增強、螺旋上升的基礎結構。它們代表著我們從算法與模型出發，逐層深入軟件、系統與硬件，最終實現從設計理念到工程實踐的整體躍升。
這不僅是一場技術的整合，更是一次范式的重塑：系統不再只是AI的“承載平臺”，而是AI自身演進機制的一部分；AI也不再只是運行于系統之上的應用，而是成為推動系統持續演化的內在引擎。以下將從效率、可信和融合三個角度展開，具體探討人工智能與計算機系統如何在技術路徑上邁出協同進化的實質性步伐。
一、效率
盡管人工智能近年來取得了飛躍式進展，但其能效與靈活性仍遠不及人類大腦。我們希望縮小兩者之間的數量級差距，讓人工智能既可以在云端高效運行，也能廣泛部署在終端設備中，實現“隨處可用”的智能體驗。要實現這一目標，離不開模型架構、系統軟件與硬件設計的協同突破。對于系統研究者而言，這意味著我們必須打破傳統分層設計的局限，推動更深入的跨層協作。這種跨層的系統性思維，為人工智能效率的持續躍升奠定了堅實的基礎。
在模型架構方面，微軟亞洲研究院近年來聚焦于極低精度表示的探索，并創新性地提出了基于三元表示（-1，0，1）的BitNet架構。該架構支持1-bit大語言模型（LLMs）的訓練與推理，且隨著模型規模的擴大，其效率優勢愈加顯著，性能可與同規模的全精度模型媲美。
但只有模型上的創新遠遠不夠。如果新架構仍運行在傳統的軟硬件堆棧上，那么其效率優勢將大打折扣。為此，我們的系統團隊引入了基于查找表（Lookup Tables, LUT）的執行機制，在不更改現有硬件的前提下實現了計算效率的大幅提升，并顯著降低了能耗，使得諸如BitNet這樣的超高效模型能夠在普通的個人電腦乃至邊緣設備上運行。
這些工作背后，離不開系統研究團隊與AI團隊的密切協作——從架構設計初期就引入系統反饋，促使模型設計與系統實現協同演進，構建起一個貫穿算法、軟件與硬件的高效路徑。更進一步，當前主流的AI模型多為GPU架構優化而設計，但要實現效率極限，還需打破模型架構與硬件平臺間的強綁定。這就需要新的抽象與中間表示形式，以實現模型與硬件的解耦，從而為模型設計和硬件開發提供更大的自由度。這同樣離不開系統研究者與AI研究者之間長期、深入的協同合作。
二、可信（Trust）
對于計算機系統，“可信”一直是一個關鍵的要素，意味著系統必須可靠、準確、符合預期。我們總在盡可能地確保所使用的系統足夠可信，即使某些部件可能存在缺陷，或者系統受到惡意攻擊。但在人工智能介入后，情況變得更加復雜，同時也帶來了新的創新機遇。
既然系統具備強大的“可信”特質，那么是否能將其借鑒到人工智能中？
我們不妨從系統實現可信性的基礎入手。在系統領域，我們總是努力創建一個盡可能小的可信計算基（Trusted Computing Base, TCB），并通過引入驗證器（verifier）來檢查系統的關鍵屬性是否符合預期，從而驗證其可信性。這種“信任但驗證”（trust but verify）原則同樣可用于人工智能，以應對其固有的隨機性和創造性（即“幻覺”）所帶來的挑戰。我們可以構建一個獨立于人工智能系統之外的可信計算基，并在其中部署驗證器，然后對人工智能生成的內容進行驗證，確保只有可驗證的正確輸出才能被接受。
系統的另一大優勢在于能夠提供即時、直接、準確且可復現的反饋。這種反饋不僅完全符合預期，而且在相同輸入條件下始終能夠產生相同的結果。相比之下，人工智能的應用往往難以提供這種確定性反饋。人工智能的許多任務仍依賴人類監督（如強化學習中的人類反饋，RLHF），或者需要等待模擬結果，而這些結果可能不夠準確；在某些情況下，還需要建模物理世界，甚至依賴于系統外的生物或化學變化過程。
近年來，基于形式方法（formal methods）和形式驗證（formal verification）的研究得到了廣泛關注，并在可信系統的構建上取得了顯著進展。例如，在微軟雷德蒙研究院的最新研究中，研究員們提出了在Rust代碼中添加基于邏輯的注釋，以確保代碼能夠滿足特定的規范。這些注釋包括前置條件、后置條件和不變量。研究員們還開發了一個名為“Verus”的驗證器，用于自動檢查代碼的正確性。這種方法只需在代碼中添加形式驗證組件，看起來就像是對編程語言的一種擴展。
這些研究讓我們看到人工智能不僅能夠生成代碼，還能進一步生成可以被驗證為正確的代碼的可能性。這成為我們一個重要的研究方向。然而，這是一個極具挑戰性的任務。研究員們手動創建了150個任務作為基準測試，最初基于GPT-4的實驗結果顯示，即便在各種優化的提示下，GPT-4 也只能成功處理不到30%的任務。但從積極的角度來看，我們已經邁出了第一步。我們的目標是利用驗證系統的反饋機制，使人工智能能夠學習如何生成可證明其正確性的代碼。大語言模型在嘗試不同策略方面具有天然的優勢，通過不斷地接受正確或錯誤案例的反饋，人工智能可以逐步掌握如何編寫符合形式驗證要求的代碼。經過持續的迭代和反饋循環，在同一個基準測試中人工智能的成功率不斷提升，已達到90%以上。但這只是一個階段性的里程碑，不表示人工智能已經擁有產生可驗證代碼的能力。