跳到正文
原文
clem 🤗· @ClementDelangue · X·· 17 小时前AI 评分48
AI 导读

决策模型现在可在 llama.cpp 中在设备端运行。免费、快速、私密! llama serve -hf ggml-org/Kev-4B-GGUF

正文

Decision models now run on device in llama.cpp. Free, fast, private!

llama serve -hf ggml-org/Kev-4B-GGUF

来源:clem 🤗 · x.com