在 MacOS 上跑 llama.cpp server 並使用 Mixtral-8x7B LLM Model

Daniel Kao
Jan 26, 2024

--

執行 server 時,要用下面的方式,同網路下的設備才存取得到

./server --host 0.0.0.0 --and_other_params

--

--

Daniel Kao
Daniel Kao

Written by Daniel Kao

2023 年新書出版! Android 開源專案「真」實戰啟航:瀏覽器 App EinkBro 開發者帶你逐步從 UI 設計、UX 提升到多功能實現秘技全解析

No responses yet