反正 HPC 通常機器不是 HPE Cray 就是 Atos
還要有些東西不是 compute bound 是 memory bound 的話,互聯架構和高速記憶體就更加是重點了
所以程式也要 port 去超級電腦的架構,還有改進運行效率
還有好像 Frontier 那樣拼太多節點(當然還有 AMD 問題)跑不久就沒了 coherency
主要是不只要把系統拼起來,還要他們可以協同運作才是真的能用
我最近發現兩片晶片拼在一起的功耗<底下貼一片矽拿來拼的功耗<電路板拼起來的功耗<接其他奇怪的硬體然後拼起來的功耗
你可以跟 Cerebras 租 timeslot 用
叫 Cerebras Programming Language
GPT-3 塞進去 Cerebras 這台東西跑根本雞毛旋皮
所以我還要思考我要把資料丟給離我比較近的哪個核心嗎
例如 array map 這樣,在這塊晶片就是一個核心等於一個 array item 執行一次 map 函數
execution plan 那邊你會發現他會把 NN 裡面 不同的 layer 投影在核心平面上面
要我們不要使用白色螢幕的電腦
(理由是那是Linux伺服器)
但是電腦是沒有開機的狀態
應該也可以使用吧
(因為我們之前都使用過這間教室,大家都知道白色螢幕的主機配置明顯的高階很多)
還有桌上型電表,桌上型信號產生器,DC Power Supply跟示波器
第二代發現 TSMC 良率不錯就把很多本來預留的核心拿出來用了