OpenRouter
OpenRouter 是面向开发者的统一 API 网关,通过一个兼容 OpenAI 的接口调用 80+ 供应商的 600+ 模型,并提供路由、故障回退与支出控制。
模型 API 用一个密钥接入多家模型,按 token 计费并支持供应商之间的路由,适合把模型接进自己产品的开发者。
OpenRouter 是面向开发者的统一 API 网关,通过一个兼容 OpenAI 的接口调用 80+ 供应商的 600+ 模型,并提供路由、故障回退与支出控制。
Together AI 是一个全栈 AI 云平台,用于运行、微调和部署开源模型,面向需要生产级推理而不愿自建 GPU 集群的工程团队。
Groq 是面向开发者和企业的 AI 推理云,通过自研 LPU 硬件和分层平台提供低延迟、可扩展的模型推理服务,覆盖从裸金属基础设施到企业级管控的多种需求。
Cerebras 基于全球最大的晶圆级芯片提供超高速 AI 推理服务,旗舰产品 CS-4 为机架级方案,官方称推理速度最高可达 GPU 的 30 倍,面向超大规模与企业级 AI 部署。
DeepInfra 是一个推理云平台,通过开发者友好的 API 提供覆盖文本、语音、图像与视频的机器学习模型,按用量计费,并可选配专属 NVIDIA B300 GPU 集群。
fal 是面向开发者的生成式媒体推理平台,通过统一 API 调用 1000+ 图像、视频、音频与 3D 模型,并支持在无服务器 GPU 或专用集群上部署、微调自有模型。
模型 API 与网关把多家模型供应商放在一个密钥后面:统一接口、统一计费、按需路由。使用者是想把模型接进产品、又不想被单一供应商绑住的开发团队。
一次接入多种模型、在价格与延迟之间切换路由、某个供应商出问题时自动回退、集中统计用量与成本、按任务选择便宜或更强的模型。
优势是切换成本低、可用性和议价能力更好;局限是多一层中间商意味着多一跳延迟和一条数据路径,冷门模型和最新版本也未必同步上架。
多数在供应商原价上加一层平台费(按用量百分比),也有的用订阅包含一定额度;自带密钥模式通常只收平台费。