跳到主要内容

Fireworks AI

企业级

Fireworks 是一个用于训练、微调和部署开源及自定义模型的平台,提供 Serverless、按需和预留推理模式,以及托管训练与自定义训练路径。

110

工具介绍

Fireworks 是一个面向希望基于开源模型构建业务、而非完全依赖闭源 API 的团队所提供的训练与推理平台。它覆盖从引导式训练运行到自定义强化学习基础设施的完整路径,目标用户是需要在生产环境中微调、部署和迭代模型的机器学习工程师与平台团队。

与工作负载成熟度匹配的训练路径

Fireworks 按照团队希望拥有的控制程度来组织训练方式。最简单的一层是描述任务、审核方案与成本、批准运行,然后获得训练好的模型。配置驱动路径适合已经明确模型、数据和方法论的团队,Fireworks 负责调度、训练和生产交接。对于更高级的工作负载,可以编写自己的损失函数、训练器和强化学习循环,在 Fireworks GPU 上运行,并配合 rollout 服务和权重同步。平台表示每个检查点可在数秒内部署到生产环境,这对训练与推理属于同一迭代周期的场景尤为重要。

从 Serverless 到预留容量的推理选项

推理服务分为三种模式。Serverless 推理按 token 计费,提供 Priority 和 Fast 选项,API 兼容 OpenAI 和 Anthropic 格式。按需部署提供专用容量、多区域支持,并可服务训练后模型。预留容量则提供保证容量、更高配额以及优先获得新硬件的权限。据 Fireworks 介绍,其推理引擎在每一层都针对吞吐量和延迟进行了优化,同时保持模型质量。

客户反馈中的实际收益

Fireworks 公布的客户案例指向具体的运营改进。Notion 表示,使用 Fireworks 微调模型后,延迟从约 2 秒降至 350 毫秒。Quora 称迁移一个模型后响应时间提升了 3 倍。Cursor 使用 Fireworks 进行强化学习推理,并实现弹性伸缩:生产流量低时扩大 RL 容量,生产流量高时缩小 RL 容量。Vercel 则提到,使用 Fireworks 的微调强化学习模型,其 v0 复合模型的表现显著优于当时的最优结果。这些均为厂商发布的客户证言,反映的是经过挑选的客户体验,而非独立基准测试。

定价结构

Fireworks 采用多种计费模式。Serverless 推理为预付费、按用量计费,按输出、输入和缓存 token 计费,并提供自动充值和月度支出上限。托管训练按每 1M 训练 token 计费,LoRA SFT 从 16B 参数以下模型的 $0.50 起,到 300B 以上模型的 $10.00;DPO 和全参数训练价格更高。按需部署按 GPU 秒计费,H100 和 H200 为 $8.00/小时,B200 为 $13.00/小时,B300 为 $15.00/小时,GB300 为 $20.00/小时。区域受限部署有 1.5 倍溢价。企业部署需要联系销售。在制定预算前,应先在官方定价页面核实当前费率。

适用场景与取舍

Fireworks 面向将模型训练和推理视为一个持续循环、而非彼此独立项目的组织。平台支持代码辅助、对话式 AI、智能体系统、搜索、多模态和企业 RAG 等工作负载。与 OpenAI 和 Anthropic API 的兼容性降低了切换成本,而多种训练选项意味着团队可以从引导式运行开始,随着需求增长逐步转向自定义训练逻辑。主要取舍在于,最先进的训练路径和预留容量需要更多的运营投入,某些情况下还需要与销售沟通。

实际注意事项

Serverless 训练 API 被描述为私有预览,该期间包含检查点存储,部分前沿模型在目录中标注为即将推出。有严格区域要求的团队应考虑到区域受限按需部署的 1.5 倍溢价。对大多数团队而言,决策关键在于希望获得通往专用模型的托管路径,还是希望对训练循环拥有完全控制权;Fireworks 两者都提供,并将生产部署内置于工作流中。

核心功能

  • 引导式训练:描述任务、审核方案与成本、批准运行后获得训练好的模型
  • 配置驱动训练:已知模型、数据和方法,由 Fireworks 负责调度、训练和生产交接
  • 自定义训练逻辑:在 Fireworks GPU 上运行自己的损失函数、训练器和强化学习循环,支持 rollout 服务和权重同步
  • Serverless 推理:按 token 计费,提供 Priority 和 Fast 选项,兼容 OpenAI 和 Anthropic API
  • 按需部署:专用部署,支持多区域和训练后模型
  • 预留容量:保证容量、更高配额,优先获得最新硬件
  • 每个检查点可在数秒内部署到生产环境
  • 推理引擎在每一层针对吞吐量和延迟进行优化,同时保持模型质量

适用场景

  1. 1使用私有企业数据微调开源模型,完成领域特定任务
  2. 2在生产应用中部署 Llama、Mistral、SDXL 等开源模型
  3. 3运行随生产流量弹性伸缩的强化学习推理
  4. 4为代码辅助、对话式 AI 和智能体系统部署复合模型或微调模型
  5. 5通过单一端点运行可重复、大批量的模型评估
  6. 6以 Serverless 或专用部署支持企业 RAG 和多模态工作负载

优势与注意事项

优势

  • 支持从引导式运行到完全自定义训练逻辑的多种训练方式
  • 检查点可在数秒内进入生产环境
  • Serverless 推理无需设置,无冷启动
  • 兼容 OpenAI 和 Anthropic API,降低迁移摩擦
  • 预留容量为高要求工作负载提供保证容量和更高配额

注意事项

  • Serverless 训练 API 被描述为私有预览,该期间包含检查点存储
  • 区域受限的按需部署价格有 1.5 倍溢价
  • 部分前沿模型在 Serverless 训练目录中标注为即将推出
  • 企业定价和预留容量需要联系销售

定价详情

Serverless 推理采用预付费、按 token 用量计费,按输出、输入和缓存 token 计费,支持自动充值和月度支出上限。嵌入模型按每 1M 输入 token 计费:150M 参数以下为 $0.008,150M-350M 为 $0.016,Qwen3 8B 为 $0.1。托管训练按每 1M 训练 token 计费:LoRA SFT 从 16B 参数以下模型的 $0.50 到 300B 以上模型的 $10.00,DPO 和全参数训练价格更高。Serverless 训练 API 按基础模型分别列出 prefill、缓存 prefill、sample 和 train 的每 1M token 价格。按需部署按 GPU 秒计费,H100 和 H200 为 $8.00/小时,B200 为 $13.00/小时,B300 为 $15.00/小时,GB300 为 $20.00/小时;区域受限部署有 1.5 倍溢价。企业部署需联系销售。以上价格待核验,请以官方定价页面为准。

基本信息

官方网站
fireworks.ai
收录时间
2026年10月10日
支持平台
网页端
中英支持
未标注
API
标注支持
本地部署
未标注
适合人群
面向需要以生产规模训练、微调和部署开源或自定义模型的机器学习工程师、AI 平台团队和产品组织。
信息最近更新
2026年10月16日
官网状态
检测中
信息纠错 · 隐私请求
联系我们

工具功能、价格与可用性可能变化,请以官网为准。 由 steven 维护 · 最后更新 2026年10月16日 →

相关工具

全部分类