邊緣AI

Microsoft bitnet.cpp 將 BitNet b1.58 等低位元模型帶入 CPU 與 GPU 推論，透過最佳化 kernel、模型格式與 benchmark 工具，探索本地 LLM、RAG embedding 與 edge AI 的效能及部署取捨。