Neo_Chen (BU4AK)
says to
OKTW Network
不是,你跑 Tensor Parallel 肯定需要資料交換的,不然你加卡沒有效能提升