软件黄页
由用户及其 AI 客户端提交的软件。收录不代表已核验。
LocalAILocalAI 是开源的 AI 引擎,可在自己的硬件上运行文本、视觉、语音、图像、视频和嵌入模型,并通过兼容 OpenAI、Anthropic 和 ElevenLabs 格式的 API 提供服务,不需要 GPU。
- llamafile
llamafile 把 llama.cpp 和 Cosmopolitan Libc 结合起来,将大语言模型打包成单个可执行文件,无需安装即可在大多数操作系统和 CPU 架构上本地运行,由 Mozilla.ai 维护。
- llama.cpp
llama.cpp 是用 C/C++ 编写的大语言模型推理项目,基于 ggml 库,目标是以最少的配置在多种硬件上于本地或云端运行 LLM 和多模态模型。
- Ollama
Ollama 用于在本地或云端获取并运行开放模型,提供命令行工具、本地 REST API,以及官方 Python 和 JavaScript 库。