AMD 以 ROCm 迎戰 CUDA：「一步一步來」 （★ 100 分）
AMD 將 ROCm (AMD 的開源 GPU 運算軟體堆疊) 視為搶攻資料中心人工智慧 (AI) 市占的關鍵，因為它必須正面挑戰 CUDA (Nvidia 的 GPU 平行運算軟體平台) 長年累積的既有裝機基礎。負責 AI 軟體的副總裁 Anush Elangovan 形容，這像是爬山，只能一步一步來。自從 AMD 兩年半前收購新創 Nod.ai 後，這支原本約 30 人、長期投入 AI 編譯器的團隊被納入核心戰力，ROCm 也獲得持續投資。Elangovan 說，早期的 ROCm 更像一堆圍繞特定應用積體電路 (ASIC, Application-Specific Integrated Circuit) 韌體拼湊而成的零件，如今 AMD 想把它做成像 Chrome 一樣「不用特別感受到存在」的平台，並把釋出節奏推向每 6 週一次，讓軟體團隊真正以軟體公司的速度前進。他也說，AMD 不只在補齊先前的落後缺口，也在為下一波 AI 輔助工程做準備。
在技術路線上，AMD 已把原先分散在中央處理器 (CPU)、圖形處理器 (GPU) 與現場可程式化邏輯閘陣列 (FPGA, Field-Programmable Gate Array) 的 AI 軟體整合為內部稱作 OneROCm 的方向，重點是把加速能力都收斂到 ROCm，提升不同 AMD 硬體之間的可攜性。Elangovan 指出，業界這兩年已逐漸往更高層的開發抽象移動，焦點不再只是把 CUDA kernel 轉成 HIP，而是改用 Triton (OpenAI 推出的開源 GPU 程式框架) 這類較中立的工具；AMD 也重押 MLIR (Multi-Level Intermediate Representation，多層中介表示編譯基礎設施) 與 Torch-MLIR，讓程式更容易重定向到不同硬體。對多數大型語言模型 (LLM, Large Language Model) 推論客戶來說，關鍵已變成每秒詞元數與部署難度，而不是手動改寫底層程式碼。
AMD 同時把「開發者能否輕鬆上手」列為主戰場。Elangovan 表示，ROCm 除了韌體以外已全面開源，這雖然會讓 AMD 更直接面對外界檢驗，但也能讓外部創新不必受限於 AMD 自身節奏。公司近來特別強調筆電端，讓搭載 Strix Halo (AMD 的高階整合處理器平台) 的機種可開箱即用地使用 ROCm，且 Windows 筆電版本通常會與 Instinct 資料中心 GPU 同日釋出。他本人也持續在 X 上追蹤 ROCm、ROCm sucks 與 AMD software not working 等關鍵字，直接回覆使用者問題；AMD 去年在 GitHub 蒐集到超過 1,000 筆抱怨，多數與舊硬體支援有關，官方稱一年內已陸續處理完畢。AMD 希望藉此把 ROCm 從「驅動程式常惹人火大」的印象，轉成未來 10 年都能安心採用的平台，並為 2026 年下半將出貨的 MI450 鋪路。
Hacker News 的討論對此抱持審慎樂觀。有些人認為 AMD 確實比前幾代進步不少，尤其在 RDNA 4 (AMD 新一代消費級 GPU 架構) 顯示卡上，若用途以本地 LLM 推論為主，價格效益明顯優於 Nvidia，同樣預算甚至能買到多張卡，湊出更大的顯示記憶體 (VRAM, Video RAM)。也有人分享實際經驗，指出雙卡機在 llama.cpp 或 Ollama 上可得到不錯的每秒詞元數，足以因應個人實驗機房 (homelab) 與工作站需求。另一些留言則看重 AMD 的開源路線，認為相較於 Nvidia 長年採用封閉堆疊，ROCm 在 Linux 上的驅動程式與編譯流程更有機會被長期維護，對重視隱私、可驗證性與高安全需求的人更具吸引力。
不過，批評聲音仍然很強。許多開發者直指 AMD 早在 5 年前就錯失加碼 ROCm 的時機，現在不是沒有改善，而是落後太久；消費級 GPU 的支援週期過短、最新硬體有時得等上一段時間才進到正式支援清單、Linux 套件更新偶爾又會讓環境失效，這些都削弱信任。另有不少人提到，在本地推論場景中，Vulkan (跨平台圖形與運算介面) 後端常常比 ROCm 更省事，某些工具甚至更快，於是反問 ROCm 的必要性到底在哪裡；也有人認為，真正左右勝負的可能不再是 ROCm 本身，而是 Triton、PyTorch (常用深度學習框架) 這些更高層工具能否逐步淡化 CUDA 的專屬優勢。還有留言把問題指向 AMD 的管理與流程，認為 Elangovan 帶來的新創式作風雖然有效，但若組織文化沒有同步轉向，ROCm 要追上 CUDA 仍會是一場漫長戰役。
👥 78 則討論、評論 💬
https://news.ycombinator.com/item?id=47745284