昨晚，OpenAI 在官方博客上宣布 ChatGPT 的首个开源模型 gpt‑oss，这无疑为想在本地部署 LLM 的开发者和爱好者提供了全新的选择。无论你是研究人员、企业技术负责人，还是普通笔记本用户，都能在相对低配的硬件上体验到与闭源模型相当的推理能力。
本地推理体验
这是站长用自己的电脑搭建的本地推理大模型服务，感兴趣的可以通过下面这个地址 进去体验看看。 （集成了几个20b以内的比较受欢迎的模型）
新发布的chatgpt开源模型
早上顺手打开了Ollama的模型列表，居然发现新出了个 gpt-oss模型，好奇就网上查了下原来是OpenAI昨晚新发布的开源模型， gpt-oss 一共开源了两款模型，120B和20B，都是MoE，纯文本、非多模态的推理模型，开源Apache 2.0 许可证，就是随你用的那种（允许商用无需付费或授权。）
看页面下载拉取量很是受欢迎，站长下载那会拉取量还是60K，这会就已经113.8K了。
开源模型亮点
- gpt-oss-120b：1170亿参数（MoE架构，激活参数约51亿），可支持在单张80GB 显存的GPU上运行，性能接近闭源的o4-mini。
- gpt-oss-20b：210亿参数（Moe架构，激活参数约36亿），可支持在高端笔记本设备上运行（老古董就不要试了😅），性能接近o3-mini。
20B模型的实际显存占用大小在13GB左右，最低只要16GB显存就能跑，理论上站长的5060ti16GB版本的显卡也能本地运行20B的gpt-oss。（如果单纯玩一下，不在意模型本地推理速度，以及设备CPU高负载（噪音发热很明显），内存20GB以上的机器也可以试试）
gpt-oss创作效果
站长的本地模型服务才上线不久，自然不能错过新发布的模型，第一时间下载测试了下，因为本地硬件有限 只能跑占用显存16GB以下的模型，所以只测试对比了gpt-oss:20b和deepseek-r1:14b（更大的模型倒不是不能跑，只是超出显存会借用主板内存来进行推理，运算走CPU效率实在太慢了些）
Ollama成功部署离线DeepSeek大模型接口：从RTX5060TI到网站集成的完整实践
在网上找了一段小说写作的的提示命令，测试了一下本地推理写作的效果 二者创作输出内容对比如下图
gpt-oss:20b 写小说
deepseek-r1:14b 写小说
阅读感受：站长文学功底比较差，实在分不出哪个写的更好，个人感觉，前者文本输出更注重贴合给出的提示文本，后者更加偏向提示进行联想，文本输出上更加自由大胆。
推理效率感受
操作总体感觉上 推理输出效率比deepseek-r1:14b要慢上一些，一方面可能是因为其size要比deepseek-r1:14b的要大，因此初始化要慢一些，另一方面可能因为其省略了推理过程，在文本结果输出这块显得有些慢。
仅代表个人感受，站长硬件条件有限，也可能影响了其性能发挥，有条件的同学可以自行搭建体验。
