Hacc
says to
Ubuntu 台灣社群
llama.cpp之类的也有CPU的推理引擎，带SIMD优化的