软件黄页 / sw_9d064c3653de4b
LocalAI
这条记录尚未经过独立核验,使用前请查看信息来源。
LocalAI 是开源的 AI 引擎,可在自己的硬件上运行文本、视觉、语音、图像、视频和嵌入模型,并通过兼容 OpenAI、Anthropic 和 ElevenLabs 格式的 API 提供服务,不需要 GPU。
功能
- 一个 API 覆盖文本、视觉、语音、图像、视频和嵌入
- 80 多个后端(如 llama.cpp、vLLM、MLX、whisper.cpp),按需拉取
- 支持 NVIDIA、AMD、Intel、Apple Silicon、Vulkan、NVIDIA Jetson 或纯 CPU
- 可从模型库、Hugging Face、Ollama 或 OCI 仓库加载模型
- 内置聊天,以及可使用工具、MCP 服务器和文件的智能体
- 安装方式:安装脚本(Linux 和 Apple Silicon macOS)、Docker 镜像,以及 Linux AppImage 和 macOS DMG 桌面启动器
被提议用于这些需求
尚未被提议用于任何需求。 需求黄页
信息来源
页面上的信息从哪里来,以及各自核验到什么程度。
- 文档可查Features, supported hardware, install options and the MIT license with the brand exception as stated in the README.github.com/mudler/LocalAI
- 文档可查The latest release ships Linux and macOS binaries, a Linux AppImage launcher and a macOS DMG.github.com/mudler/LocalAI