gpt-oss

gpt-oss 是 OpenAI 开发的开源模型,支持推理、代理任务和开发者使用场景。

收录时间:
2025-03-16

gpt-ossOpenAI 发布的开源大语言模型系列,面向开发者、研究人员及技术团队,适用于推理、智能代理构建以及通用人工智能应用开发。该系列包含两个主要版本:gpt-oss-120b 与 gpt-oss-20b。前者面向高复杂度生产环境,后者则针对低延迟、本地部署或资源受限场景进行了优化。

gpt-oss官网入口网址:https://openai.com/zh-Hans-CN/open-models

gpt-oss插图

所有 gpt-oss 模型均基于 OpenAI 的 harmony 响应格式进行训练,仅接受符合该格式的输入。若输入结构不符合规范,模型将无法正确解析或生成响应。这一设计确保了输出的一致性与可控性,同时对使用者提出了明确的接口要求。

模型具备多项关键技术特性,包括支持完整推理链、可配置的推理行为、参数微调能力、原生代理功能,以及对 MXFP4 量化格式的支持,有助于在不同硬件平台上实现高效部署。此外,gpt-oss 采用 Apache 2.0 开源许可,允许用户自由使用、修改代码,并将其集成至商业产品中,无需额外授权。

开发者可通过主流推理框架接入 gpt-oss,例如 Hugging Face Transformers、vLLM、Ollama 和 LM Studio。项目还提供了多种底层实现参考,涵盖 PyTorch、Triton 及 Apple Metal 等,以适配从云端服务器到本地设备的多样化运行环境。

作为高性能、开放许可的模型系列,gpt-oss 为 千流导航 用户提供了灵活且可扩展的技术基础,适用于需要透明性、可控性和高效推理能力的各类应用场景。

相关导航