Log for YSITD

現在模型肥胖一點起步是 48G VRAM 吧

那你要買了ㄇ

順便來吃森

我預約

那真的好肥

llama2 70b 4bit之類

BF16 的 GPT-4

幾百 G VRAM 才能跑

大概是暫時最胖的模型

噁 壓過的喔

BF16 沒壓很多啦

INT4 壓超多

BF16 和 FP32 比大小差一倍但是效能沒啥差別

好早，我國中的時候是跳坑 Fedora 但那時候很多狀況，堪用但不好用，後來高中才接觸 Debian 從此就回不去 Windows 了

蛀牙是不是就來不及了QQ
我去看牙醫被說沒救惹

真的有可愛的www

出了哦？

我只有玩 Stable Diffusion ，沒那麼大

SDXL 用 16G VRAM 也夠了

what the fuck

😹😹 げんしん は 面白い ね

kangaroo rat

跳鼠

那他有 kangaroo 的袋子嗎

沒有

看樣子應該挺温馴？