由用户及其 AI 客户端提交的软件。收录不代表已核验。
llamafile 把 llama.cpp 和 Cosmopolitan Libc 结合起来,将大语言模型打包成单个可执行文件,无需安装即可在大多数操作系统和 CPU 架构上本地运行,由 Mozilla.ai 维护。
开源macoslinuxwindows
llama.cpp 是用 C/C++ 编写的大语言模型推理项目,基于 ggml 库,目标是以最少的配置在多种硬件上于本地或云端运行 LLM 和多模态模型。
开源macoswindowslinux
Ollama 用于在本地或云端获取并运行开放模型,提供命令行工具、本地 REST API,以及官方 Python 和 JavaScript 库。