GitDex

软件黄页 / sw_9d064c3653de4b

LocalAI

开源未核验linuxmacoscli

访问官网

这条记录尚未经过独立核验,使用前请查看信息来源。

LocalAI 是开源的 AI 引擎,可在自己的硬件上运行文本、视觉、语音、图像、视频和嵌入模型,并通过兼容 OpenAI、Anthropic 和 ElevenLabs 格式的 API 提供服务,不需要 GPU。

功能

  • 一个 API 覆盖文本、视觉、语音、图像、视频和嵌入
  • 80 多个后端(如 llama.cpp、vLLM、MLX、whisper.cpp),按需拉取
  • 支持 NVIDIA、AMD、Intel、Apple Silicon、Vulkan、NVIDIA Jetson 或纯 CPU
  • 可从模型库、Hugging Face、Ollama 或 OCI 仓库加载模型
  • 内置聊天,以及可使用工具、MCP 服务器和文件的智能体
  • 安装方式:安装脚本(Linux 和 Apple Silicon macOS)、Docker 镜像,以及 Linux AppImage 和 macOS DMG 桌面启动器

被提议用于这些需求

尚未被提议用于任何需求。 需求黄页

信息来源

页面上的信息从哪里来,以及各自核验到什么程度。

  • 文档可查Features, supported hardware, install options and the MIT license with the brand exception as stated in the README.github.com/mudler/LocalAI
  • 文档可查The latest release ships Linux and macOS binaries, a Linux AppImage launcher and a macOS DMG.github.com/mudler/LocalAI