跳到主要内容

DeepInfra

企业级

DeepInfra 是一个推理云平台,通过开发者友好的 API 提供覆盖文本、语音、图像与视频的机器学习模型,按用量计费,并可选配专属 NVIDIA B300 GPU 集群。

SOC 2ISO 27001
100

工具介绍

DeepInfra 是一个面向开发者的推理云平台,解决的是同一个问题:团队希望在生产环境调用机器学习模型,却不想自己搭建和维护 GPU 基础设施。它把文本、语音、图像与视频等多类模型收拢到统一的 API 之下,让工程团队可以专注于产品逻辑,而不是集群运维。

一个 API 下的多类别模型目录

DeepInfra 的模型目录同时按类别与家族组织。类别覆盖自动语音识别、Embeddings、Reranker、文本生成、文本转图像、文本转音乐、文本转语音、文本转视频、世界模型与零样本图像分类。家族页面则把 Anthropic、DeepSeek、Black Forest Labs、Google、Moonshot AI、Meta、Mistral、NVIDIA、Qwen 等来源的模型归在一起。对于需要横向对比多个模型、又不想分别签约或集成多套 SDK 的团队,这种组织方式能省下不少前期成本。站点还会展示最新与精选模型,例如 anthropic/claude-sonnet-5-5、tencent/Hy4-preview 与 Qwen/Qwen3-TTS。

按用量计费的定价结构

DeepInfra 按模型类型区分计费方式。许多语言模型采用按 token 计费,其他多数模型则按推理执行时长计费。官方表示标准 API 使用没有长期合约或前期成本,客户可以随业务需求扩缩。公开示例包括 DeepSeek-V4-Flash 每 100 万输入 token $0.09、每 100 万输出 token $0.18,DeepSeek-V4-Pro 每 100 万输入 token $1.30、每 100 万输出 token $2.60,以及 Kimi-K2.6 每 100 万输入 token $0.75、每 100 万输出 token $3.50。部分模型带有促销折扣,实际费率会随之变化。计费需要绑定银行卡或预付余额,账户也可设置消费上限以避免意外支出。

自动扩展与实时指标

在共享推理层面,DeepInfra 会根据需求自动把模型扩展到更多硬件上。每个账户默认限制 200 个并发请求,需要更高配额可联系官方。平台还公开实时推理指标,包括每秒 token 数、首 token 延迟、每秒请求数与 exaFLOPS,让团队看到的是当下的速度与稳定性,而不是静态跑分。

专属 GPU 集群与合规资质

除共享推理外,DeepInfra 提供 DeepCluster:由公司采购并运营的专属 NVIDIA B300 GPU 集群,包含完整所有权、Tier 3 数据中心与 99.982% 可用性 SLA。配置范围从 256 到 5,000 块 GPU,每块配备 288 GB HBM3e。五年期标价为每 GPU 小时 $1.98,对比公有云的每 GPU 小时 $6.50,官方称约便宜 70%。按需 DGX B300 GPU 也以每实例小时 $4.89 提供。合规方面,DeepInfra 表示持有 SOC 2 与 ISO 27001 认证,并设有信任中心与状态页,便于企业在安全审查与运维透明度上做评估。

适合怎样的团队

DeepInfra 适合想要一层托管推理、同时需要较广模型选择与按用量计费的团队。取舍也很实际:默认并发上限意味着高流量场景需要与销售沟通,促销费率意味着成本要逐模型核对,专属集群则按多年期销售。对多数开发者而言,吸引力在于广泛目录、透明的按 token 计费,以及随用量增长切换到专属硬件的路径。

核心功能

  • 覆盖文本生成、Embeddings、Reranker、自动语音识别、文本转语音、文本转图像、文本转视频、文本转音乐、世界模型与零样本图像分类的 API
  • 模型目录按类别与家族组织,涵盖 Claude、DeepSeek、Flux、Gemini、Kimi、Llama、Mistral、Nemotron、Qwen 等
  • 多数语言模型按 token 计费,其他模型多按推理执行时长计费
  • 根据需求自动扩展硬件,默认每账户 200 个并发请求上限
  • 提供 tokens per second、首 token 延迟、每秒请求数与 exaFLOPS 等实时推理指标
  • DeepCluster 专属 NVIDIA B300 GPU 集群,提供 99.982% 可用性 SLA
  • 具备 SOC 2 与 ISO 27001 认证
  • 支持预付或按月开票,并可设置消费上限

适用场景

  1. 1通过 API 调用文本生成与对话模型,替代自建推理服务
  2. 2在搜索或检索流程中接入 Embeddings 与 Reranker
  3. 3为媒体与无障碍功能调用语音识别、文本转语音或文本转图像模型
  4. 4随流量变化弹性扩缩推理容量,无需长期合约
  5. 5为可预测的高负载任务采购专属 NVIDIA B300 GPU 集群

优势与注意事项

优势

  • 模型选择覆盖文本、音频、图像与视频多个类别
  • 按 token 与执行时长计费,标准 API 使用无前期成本或长期合约
  • 自动扩展与公开的并发上限让容量规划更可预期
  • 提供专属 GPU 集群选项,并给出 99.982% 可用性 SLA
  • SOC 2 与 ISO 27001 认证有助于安全与合规审查

注意事项

  • 默认并发上限为每账户 200 个请求,更高配额需联系销售
  • 不同模型定价不同,部分费率为促销价,需逐模型核对成本
  • 使用服务前需绑定银行卡或预付余额
  • 专属 GPU 集群按多年期销售,可能不适合短期项目

定价详情

DeepInfra 按模型类型采用不同计费方式:部分语言模型按 token 计费,例如 DeepSeek-V4-Flash 为每 100 万输入 token $0.09、每 100 万输出 token $0.18,DeepSeek-V4-Pro 为每 100 万输入 token $1.30、每 100 万输出 token $2.60,Kimi-K2.6 为每 100 万输入 token $0.75、每 100 万输出 token $3.50;其他多数模型按推理执行时长计费。标准 API 使用无长期合约或前期成本。按需 DGX B300 GPU 标价为每实例小时 $4.89,DeepCluster 专属 NVIDIA B300 容量五年期标价为每 GPU 小时 $1.98,对比公有云每 GPU 小时 $6.50。部分模型存在促销折扣,实际费率请以定价页为准(待核验)。

基本信息

官方网站
deepinfra.com
收录时间
2026年10月10日
支持平台
网页端
中英支持
未标注
API
标注支持
本地部署
未标注
适合人群
适合需要将 AI 模型投入生产、但不想自行维护 GPU 基础设施的 AI 工程师、后端开发者与平台团队。
信息最近更新
2026年10月14日
官网状态
检测中
信息纠错 · 隐私请求
联系我们

工具功能、价格与可用性可能变化,请以官网为准。 由 steven 维护 · 最后更新 2026年10月14日 →

相关工具

全部分类