Log for YSITD

am 12:53:31

Licson Lee

還要堆核堆到 60TFLOPS

am 12:54:00

Licson Lee

[photo](media:AgACAgUAAx0CPZbPgAABGUYgYkHoKCO4LgFtCIelVyL6FEvL-oMAArmtMRus1xBW6vFrhKgkv0wBAAMCAANzAAMjBA@telegram)

am 12:55:58

Cute_ Panda 🐼 就業了，Still 窮。

🤔 剛剛才看到賽靈思新ACAP

am 05:44:23

SooXT

感觉多几年Nvidia会称霸CPU市场

am 11:32:27

Ƚ ⛧

小弟我想請問一下telegram.error.TimedOut: Timed out要怎麼解決呀

pm 02:24:17

Cute_ Panda 🐼 就業了，Still 窮。

真的Server Porn
https://youtu.be/sl61lHwo3YE

因為沒辦法控制使用者跑ML用32還是64

可以吧

高達87%使用者都只知道python戳一戳唉

使用者自己都不知道自己用的是32還是64

哦

雖然他用的網比我快

Cute_ Panda 🐼 就業了，Still 窮。

87%使用者根本不會拿這些東西跑吧

pm 03:23:20

Licson Lee

但是我也有 NVMeoF 的 SAN 阿

pm 03:24:29

Cute_ Panda 🐼 就業了，Still 窮。

他A100

這樣才好控制啊

其實只是為了省電路把64和32共用，所以速度才一樣快

H100 都出來了（#

拔掉64就好 tf 會fallback回32這樣

我沒 A100 但是我有 V100（（（

我也想要 A100

你少兩代了

Cute_ Panda 🐼 就業了，Still 窮。

他要Q4還啥時候才拿得到吧ww

pm 03:25:18

Jasper Yu

什麼時候換H100

pm 03:25:23

Cute_ Panda 🐼 就業了，Still 窮。

現在都是下單的時間

他用 HBM3 追 Intel 的速度e

HBM3 標準才出來沒多久

Intel快沒救了

HBM 晶片良率：

現在通通NVME SSD

Intel PCIe通道：

Intel 的 Memory bandwidth 是 5TB/s

pm 03:27:04

Licson Lee

H100 用 HBM3 才 6.4TB/s

Intel 還在用 HBM2E 呢

PCIe通道數量呢

通道數接啥都沒辦法

之前不是被NV說有機會代工

阿有 80 阿，Sapphire Rapids

他有活起來嗎

80能接沒

80 PCIe 5

誰有PCIe5

H100

Kioxia

Xilinx

20個SSD

雙路有 160

四顆有 320

AMD

AMD：單雙也只有 128

網卡接一接就沒了

Intel：

NF表示NUMA爆

然後再來個NUMA Latency

哭出來

都 UPI 4.0 了

我是說xilinx現在是AMD了

Intel 當然已經有辦法應付

Chris 🇹🇼 | Telegram 尼有事嗎

這好變態

你說堆料嗎

價格水漲船高

這樣

好像會有更多 UPI Lanes

TCO一起飛

企業苦哈哈

和新的 full mesh 8 路架構

是不是抄NV Link

ROI歸零這樣

AMD不香嗎

你知道嗎新的 DGX H100 裡面有一大堆 PCIe 5.0 Switch

pm 03:31:36

Cute_ Panda 🐼 就業了，Still 窮。

NUMA Latency不是所有應用都會被雷道吧

不然接不到那麼多 CX7 的

所以我才說

價格水漲船高

TCO一起飛

ROI歸零這樣

企業苦哈哈

之前有個祖傳改不動的東西卡瓶頸，然後換AMD就緩解了ㄏㄏ

pm 03:32:42

James58899

真的很靠杯

pm 03:32:55

⁠

現在都用16了

ML 用低精度的啦

FP32/64 是打 HPC

算天氣

Intel PVC A0 可以 46+ TFLOPS

pm 03:34:02

Jasper Yu

是說HPC比賽到底在幹嘛
我越來越看不懂了
要不要辦個挖礦大賽

pm 03:34:06

Licson Lee

傳統老黃都是 FP64 起碼是 FP32 的 1/4

反正都是調參數獲得更高效能

然後堆料

最差可是有 1/64 的

挖礦也在做一樣的事

還不是怕了 Inyel

所以才改架構解鎖的（

⁠

單純FP32 64 都翻倍啊

pm 03:35:50

⁠

現在是128 per SM

⁠

對阿把運算單元做到一樣大

SooXT

Core i9-12900KS 电量终结者

pm 05:27:54

Jasper Yu

pm 05:28:20

Wei

好划算

哇，這是按分鐘計費嗎？（逃

手不在鍵盤上不算時間(x

那把手放在鍵盤上，然後整天看電影

Cute_ Panda 🐼 就業了，Still 窮。

必勝客出五更腸旺Pizza欸

pm 06:17:18

Cute_ Panda 🐼 就業了，Still 窮。

pm 06:55:58

Cute_ Panda 🐼 就業了，Still 窮。

香菜酸披薩

pm 06:56:28

James58899

11

pm 07:03:34

Chris 🇹🇼 | Telegram 尼有事嗎

這是什麼恐怖的孔未

pm 07:33:14

Cute_ Panda 🐼 就業了，Still 窮。

只好掏一個小鍵盤當手環了

白兔

白兔

突然覺得 FB 隱藏留言ㄉ功能好讚