Snap Store 註冊 app 不用錢(以下略
還是希望未來新版Gnome能把Gesture Improvement的功能加進去,或是至少能有Win11那個程度的觸控板手勢選擇,現在的自訂性真的太低了
也不用大量時間,只要你是epyc吐出的速度也還算可以接受
其實我不知道顯卡跟cpu在ai算力上實際的差距
但自己是試過amd ryzen 2400g cpu vs 1050ti 跑同一個模型比回應速度確實1050ti還是比較快
ai 大部份就跑矩陣向量計算,這反而使用 gpu 會比較有優勢
cpu 就算 36 核心再怎麼樣也不會比 gpu 幾千上萬單元運送有效率
但EPYC可不是什麼36核,他是384個threads,L3有384MB,單socket memory bandwidth 有 576GB/s,足以和消費級顯卡扳手腕了
192C/384T 那顆效能沒 128C/256T 的高
那顆泛用運算確實強,但如果要跑顯卡負載要實驗才知道
但反正我都用不起,想想2p都裝上,老公寓的電箱會先跳掉
旧一点的垃圾E5 v3 v4堆出来的机器速度也可以接受了
反正我現在就是用幾顆6500G在跑翻譯器🌚
慢就慢,反正128G插上去能動
在沒有錢的狀態下,CPU 搭配 LLVM-Pipe 或者是使用較舊的中端 GPU 可能是跑 LLM 的一個比較划算的選擇。
不过跑LLM也不一定通过llvmpipe这样再过一层?
llama.cpp之类的也有CPU的推理引擎,带SIMD优化的
LLM也可以直接使用CPU的SIMD优化,無需再通过llvmpipe。
我2400g + 32G +1050TI 好像也沒好去哪