Ollama
Ollama 是一个面向开源 AI 模型的运行时与云服务,支持在 macOS、Windows、Linux 上本地运行模型,或通过托管端点调用,适合使用开源模型进行开发的工程师与团队。

Fireworks 是一个面向希望基于开源模型构建业务、而非完全依赖闭源 API 的团队所提供的训练与推理平台。它覆盖从引导式训练运行到自定义强化学习基础设施的完整路径,目标用户是需要在生产环境中微调、部署和迭代模型的机器学习工程师与平台团队。
Fireworks 按照团队希望拥有的控制程度来组织训练方式。最简单的一层是描述任务、审核方案与成本、批准运行,然后获得训练好的模型。配置驱动路径适合已经明确模型、数据和方法论的团队,Fireworks 负责调度、训练和生产交接。对于更高级的工作负载,可以编写自己的损失函数、训练器和强化学习循环,在 Fireworks GPU 上运行,并配合 rollout 服务和权重同步。平台表示每个检查点可在数秒内部署到生产环境,这对训练与推理属于同一迭代周期的场景尤为重要。
推理服务分为三种模式。Serverless 推理按 token 计费,提供 Priority 和 Fast 选项,API 兼容 OpenAI 和 Anthropic 格式。按需部署提供专用容量、多区域支持,并可服务训练后模型。预留容量则提供保证容量、更高配额以及优先获得新硬件的权限。据 Fireworks 介绍,其推理引擎在每一层都针对吞吐量和延迟进行了优化,同时保持模型质量。
Fireworks 公布的客户案例指向具体的运营改进。Notion 表示,使用 Fireworks 微调模型后,延迟从约 2 秒降至 350 毫秒。Quora 称迁移一个模型后响应时间提升了 3 倍。Cursor 使用 Fireworks 进行强化学习推理,并实现弹性伸缩:生产流量低时扩大 RL 容量,生产流量高时缩小 RL 容量。Vercel 则提到,使用 Fireworks 的微调强化学习模型,其 v0 复合模型的表现显著优于当时的最优结果。这些均为厂商发布的客户证言,反映的是经过挑选的客户体验,而非独立基准测试。
Fireworks 采用多种计费模式。Serverless 推理为预付费、按用量计费,按输出、输入和缓存 token 计费,并提供自动充值和月度支出上限。托管训练按每 1M 训练 token 计费,LoRA SFT 从 16B 参数以下模型的 $0.50 起,到 300B 以上模型的 $10.00;DPO 和全参数训练价格更高。按需部署按 GPU 秒计费,H100 和 H200 为 $8.00/小时,B200 为 $13.00/小时,B300 为 $15.00/小时,GB300 为 $20.00/小时。区域受限部署有 1.5 倍溢价。企业部署需要联系销售。在制定预算前,应先在官方定价页面核实当前费率。
Fireworks 面向将模型训练和推理视为一个持续循环、而非彼此独立项目的组织。平台支持代码辅助、对话式 AI、智能体系统、搜索、多模态和企业 RAG 等工作负载。与 OpenAI 和 Anthropic API 的兼容性降低了切换成本,而多种训练选项意味着团队可以从引导式运行开始,随着需求增长逐步转向自定义训练逻辑。主要取舍在于,最先进的训练路径和预留容量需要更多的运营投入,某些情况下还需要与销售沟通。
Serverless 训练 API 被描述为私有预览,该期间包含检查点存储,部分前沿模型在目录中标注为即将推出。有严格区域要求的团队应考虑到区域受限按需部署的 1.5 倍溢价。对大多数团队而言,决策关键在于希望获得通往专用模型的托管路径,还是希望对训练循环拥有完全控制权;Fireworks 两者都提供,并将生产部署内置于工作流中。
Serverless 推理采用预付费、按 token 用量计费,按输出、输入和缓存 token 计费,支持自动充值和月度支出上限。嵌入模型按每 1M 输入 token 计费:150M 参数以下为 $0.008,150M-350M 为 $0.016,Qwen3 8B 为 $0.1。托管训练按每 1M 训练 token 计费:LoRA SFT 从 16B 参数以下模型的 $0.50 到 300B 以上模型的 $10.00,DPO 和全参数训练价格更高。Serverless 训练 API 按基础模型分别列出 prefill、缓存 prefill、sample 和 train 的每 1M token 价格。按需部署按 GPU 秒计费,H100 和 H200 为 $8.00/小时,B200 为 $13.00/小时,B300 为 $15.00/小时,GB300 为 $20.00/小时;区域受限部署有 1.5 倍溢价。企业部署需联系销售。以上价格待核验,请以官方定价页面为准。
工具功能、价格与可用性可能变化,请以官网为准。 由 steven 维护 · 最后更新 2026年10月16日 →
Ollama 是一个面向开源 AI 模型的运行时与云服务,支持在 macOS、Windows、Linux 上本地运行模型,或通过托管端点调用,适合使用开源模型进行开发的工程师与团队。
Anthropic 的命令行编程智能体,直接改你的仓库
Together AI 是一个全栈 AI 云平台,用于运行、微调和部署开源模型,面向需要生产级推理而不愿自建 GPU 集群的工程团队。
能自己浏览网页并端到端完成任务的通用智能体