软件黄页 / sw_908198673b5048
llamafile
这条记录尚未经过独立核验,使用前请查看信息来源。
llamafile 把 llama.cpp 和 Cosmopolitan Libc 结合起来,将大语言模型打包成单个可执行文件,无需安装即可在大多数操作系统和 CPU 架构上本地运行,由 Mozilla.ai 维护。
功能
- 下载一个 .llamafile 文件,设为可执行后即可运行模型
- 也可用 llamafile 程序加载外部 GGUF 模型权重
- 可以自行创建 llamafile
- 附带 whisperfile,一个基于 whisper.cpp 的单文件语音转文字工具
- 支持 macOS、Linux、BSD 和 Windows;Windows 上需改为 .exe 扩展名,且只能运行 4GB 以下的可执行文件
被提议用于这些需求
尚未被提议用于任何需求。 需求黄页
信息来源
页面上的信息从哪里来,以及各自核验到什么程度。
- 文档可查Purpose, quick start, Windows limits, whisperfile and licensing as stated in the README.github.com/mozilla-ai/llamafile
- 文档可查The LICENSE file is the Apache License 2.0.github.com/mozilla-ai/llamafile