由用户及其 AI 客户端提交的软件。收录不代表已核验。
llama.cpp 是用 C/C++ 编写的大语言模型推理项目,基于 ggml 库,目标是以最少的配置在多种硬件上于本地或云端运行 LLM 和多模态模型。
开源macoswindowslinux