GlobalFoundries 是一家為 AMD 和通用汽車等公司生產晶片的公司,此前曾宣布與 Lightmatter 建立合作夥伴關係。哈里斯表示,他的公司“與一些世界上最大的半導體公司和超大規模企業合作”,指的是微軟、亞馬遜和谷歌等最大的雲端公司。
如果 Lightmatter 或其他公司能夠重新發明大型人工智慧專案的佈線,就可以消除開發更智慧演算法的關鍵瓶頸。更多運算的使用是導致 ChatGPT 進步的基礎,許多人工智慧研究人員認為,硬體的進一步擴展將導致該領域的未來進步,並達到人工智慧的模糊指定目標。我們認為這是必不可少的我們希望這樣做。通用智能(AGI)是指在所有方面都與生物智能相當或超過生物智能的程序。
Lightmatter 執行長 Nick Harris 表示,將一百萬個晶片與光連接起來可以實現比當今最先進技術好幾代的演算法。 「通道使 AGI 演算法成為可能,」他自信地表示。
訓練大型人工智慧演算法所需的大型資料中心通常由裝滿數萬台運行專用矽晶片的電腦的機架以及它們之間主要是電氣連接的意大利麵條組成。我就是。維護人工智慧訓練在如此多的系統上運行,所有系統都透過電線和交換機連接,是一項艱鉅的工程任務。電子訊號和光訊號之間的轉換對晶片作為一個單元執行計算的能力施加了根本限制。
Lightmatter 的方法旨在簡化人工智慧資料中心內的複雜流量。 「通常情況下,你有許多 GPU、交換器層、交換器層、交換器層,並且你必須遍歷該樹才能在兩個 GPU 之間進行通信,」Harris 說。 Harris 表示,在 Passage 連接的資料中心中,每個 GPU 都會與其他每個晶片建立高速連接。
Lightmatter 與 Passage 的合作就是一個例子,說明最近人工智慧的興起如何激勵大大小小的公司重新發明 OpenAI 的 ChatGPT 等先進技術背後的關鍵硬體。 Nvidia 是人工智慧專案 GPU 的領先供應商,上個月舉行了年會,執行長 Jensen Huang 宣布了該公司用於人工智慧訓練的最新晶片,即一款名為 Blackwell 的 GPU。 Nvidia 將 GPU 作為「超級晶片」出售,由兩個 Blackwell GPU 和一個傳統的 CPU 處理器組成。所有這些都使用該公司名為 NVLink-C2C 的新型高速通訊技術進行連接。
晶片產業以尋找方法在不增加晶片體積的情況下從晶片中榨取更多運算能力而聞名,但英偉達卻選擇逆流而上。該公司超級晶片內的 Blackwell GPU 的性能是其前身的兩倍,但由於它是由兩個螺栓連接在一起的晶片製成,因此它消耗的功率更大。這種權衡表明,除了 Nvidia 努力將晶片與高速鏈路粘合在一起之外,對 AI 超級電腦的其他關鍵組件(例如 Lightmatter 提出的組件)的升級可能會變得更加重要。我是。