Together AI
面向开发者的 AI 云平台,把开源模型推理、微调与 GPU 算力打包成服务,Serverless 按需调用、Batch 异步跑大批量任务、GPU 集群可扩到上千张卡,适合要调开源模型 API 或租卡训练自己版本的中小团队。
Together AI 是一个给开发者用的 AI 云平台。它把开源模型的推理、微调、GPU 算力打包成一套服务,让团队不用自己搭机房就能调用模型或训练自己的版本。首页上列着 Kimi、Qwen、GLM、DeepSeek、Llama 等一批模型,覆盖文本、图像、视频、代码和语音。
主要功能
推理是核心。Serverless Inference 按需调用模型 API,不用管服务器;Batch Inference 用来异步跑大批量任务,官方说单模型能扩展到 300 亿 token;Provisioned Throughput 提供预留吞吐和 99% 可用性 SLA,适合生产环境。算力方面有 GPU Clusters,从自助开通的即时集群到上千张 GPU 都能扩,卡型包括 GB300、B200、H200、H100 等。模型 shaping 部分提供 Post-Training、Fine-Tuning 和 Evaluations,可以自己定义强化学习或监督微调的流程,也可以跑托管 SFT/DPO 任务来测模型质量。
适合谁
主要面向要调开源模型 API 的开发者、需要批量推理或微调的中小团队,以及想租 GPU 但不想自己维护集群的 AI 公司。平台有 Sandbox 开发环境和托管存储,文档、博客、Cookbook 也放在站内,上手路径比较清楚。
费用与限制
具体价格没有在首页展开,需要看 Pricing 页。调用 API 要注册账号,Sign in 入口指向 api.together.ai。界面是英文,文档也是英文。GPU 集群和专用推理这类服务通常要联系销售,不是点一下就能开通。