Gemini
Google 的多模态 AI 助手,支持调研、写作、编程和跨 Google 应用的智能体任务

LocalAI 是一个采用 MIT 许可的开源 AI 引擎,目标很直接:让文本、语音、视觉、图像、视频、3D 与智能体任务都能跑在你自己已有的硬件上,而不是必须依赖数据中心。它以一个二进制文件的形式发布,前面套一层兼容 OpenAI 的 API,把现有客户端指向这个端点,调用照常工作,只是模型换到了本机。它同时兼容 Anthropic、Ollama 与 ElevenLabs 接口,因此不少工具只需要改一个 URL。
API 背后的推理引擎并非固定。同一个模型可以跑在 llama.cpp 上,下一个模型换成 vLLM、SGLang 或 MLX,客户端看到的端点和请求完全一致,切换只是模型配置里的一行。核心部分保持精简,只有当某个模型需要时才会把对应引擎作为独立后端拉取进来,这也是为什么一次安装能覆盖这么多能力,却不会膨胀成一个 9 GB 的下载包。
每一项功能都先提供 CPU 路径,并在 CI 中针对大多数人已有的硬件进行测试,它不是降级备选方案。GPU 会让它更快,但不是必需条件,支持的目标包括 x86_64、ARM64、CUDA、ROCm、SYCL、Metal 与 Vulkan。这一点在实时场景中尤其重要:语音输入、中间调用工具、再通过 WebRTC 输出语音,可以快到接近对话的体验,而转写、说话人分离与语音合成都无需 GPU。
语言模型只能处理别人打给它的内容,LocalAI 的引擎则扩展了模型能接触到的东西:带说话人标签和时间戳的实时转写、527 种声音事件识别、声纹与人脸识别、用自然语言查询物体并返回坐标、从一张普通照片估算米制距离,以及从少量图像完成 3D 重建。语音合成支持克隆音色的长文本朗读,覆盖数十种语言,最高 48 kHz,回声消除、降噪与去混响则让语音回路能在真实房间里稳定运行。一个会话可以同时听房间、判断谁在说话、读取桌面上的内容、调用工具并出声回答,全部通过一个 API 在一台机器上完成。
增加第二台机器是运行时该操心的事。路由、显存感知放置、前缀缓存亲和、自动扩缩容、P2P、NATS 与故障转移都由运行时处理,你只管加硬件,集群自己决定怎么用。权重则决定模型能不能跑起来,所以项目也自己构建权重:APEX 为每个张量和每一层分配不同精度,一个 35B 的混合专家模型从 64.6 GB 降到 12.2 GB,速度从 30.4 提升到 74.4 tokens/s,困惑度从 6.537 变为 7.088。文件是普通 GGUF,原版 llama.cpp 无需补丁即可打开,目前已有 201 个 APEX 模型进入 LocalAI 模型库。
local-ai chat 会打开一个针对你的 LocalAI 服务器运行的终端智能体。它不是独立工具,而是编译在 local-ai 二进制里的,所以装了 LocalAI 就已经拥有它。它在你已经打开的 shell 中工作,读取文件、在本机执行命令、委派给子智能体,并加载 MCP 服务器、插件与技能。只读操作自行完成,任何可能改变状态的操作都会先征求你的同意。该智能体是嵌入 LocalAI 的 nib,因此其插件、技能与 MCP 生态可以原样使用。
需要留意的是,这是一次破坏性变更:local-ai chat 过去只是普通聊天提示,现在会在审批门控下执行 shell 命令,旧的 /clear 命令已移除,/compact 是最接近的替代。只读工具无需询问即可运行,涵盖读取、搜索以及 ls、cat 这类只读 shell 命令;其余操作都会请求批准,你可以同意、拒绝,或在本会话内信任该工具。--yolo 或 LOCALAI_CHAT_YOLO=1 会批准所有工具调用,这适合沙箱,不适合你的笔记本。
--cli 让智能体回答管道输入的问题后退出,只读工具仍会运行,因此管道提问可以检查代码仓库或日志文件。非只读的工具调用会因为无人审批而被拒绝,会话以退出码 3 结束,刻意不用 1,以便脚本区分“我拒绝执行”和“我崩溃了”。不加 --cli 直接管道输入问题会被拒绝,并提示使用 --cli。配置、插件与技能存放在 ~/.config/localai/chat/,或设置了 $XDG_CONFIG_HOME 时放在其下,可用 --config-dir 或 LOCALAI_CHAT_CONFIG_DIR 覆盖。该目录按用户而非按服务器划分,因为智能体是客户端,可能指向远程 LocalAI。管理命令通过透传方式调用,Claude Code 插件可以原样安装;在脚本中记得加 --yes,否则非交互环境下 plugin install 会安装插件却保持禁用,打印提示后仍然返回 0。
LocalAI 大约一分钟就能跑起来:任意平台的容器、macOS 的 DMG、Linux 的二进制文件,或 Kubernetes 上的 Helm chart。后端会在模型第一次需要时自行下载,基础安装因此保持精简。安装脚本会检测平台、拉取最新发布二进制,local-ai run 则拉取后端并在 localhost:8080 启动 API。
未标注订阅价格。
工具功能、价格与可用性可能变化,请以官网为准。 由 steven 维护 · 最后更新 2026年10月16日 →
Google 的多模态 AI 助手,支持调研、写作、编程和跨 Google 应用的智能体任务
LlamaIndex 提供文档解析与抽取软件,以及面向 AI 应用的开源工具,帮助团队将企业文档转化为 AI 智能体和工作流可用的数据。
Flowith 是一个智能体 AI 工作空间,以白板式画布整合 40+ 图像与视频模型,并提供虚拟试穿、抠图、打光、放大等小程序,覆盖设计、电商与社交媒体内容生产。
用少得多的显存更快速地微调开源模型