GLM 5.3 Ollama:云端模型、本地运行方案与硬件要求
快速回答: Ollama 上的 GLM 5.3 是 glm-5.3:cloud,跑在 Ollama 的云端,不在你的电脑上:ollama run glm-5.3:cloud。Ollama 模型库里没有 GLM 5.3 的本地标签。想在自己的硬件上跑,可以用智谱 2026 年 8 月 25 日在 Hugging Face 发布的开源权重,或 unsloth/GLM-5.3-GGUF 这类 GGUF 量化版,其中最小的量化版也有约 217 GB。
Ollama 目前提供什么
| 项目 | 内容 |
|---|---|
| 模型标签 | glm-5.3:cloud(唯一的标签) |
| 运行位置 | Ollama 云端,托管在美国和欧洲 |
| 上下文 | 1M token |
| 输入 | 仅文本 |
| 规模 | 753B 参数 |
| Ollama 价格 | 每百万 token 输入 $1.40、缓存输入 $0.26、输出 $4.40 |
| 思考强度 | reasoning_effort 可选 low、high、max(默认 max) |
Ollama 模型页写明,云端模型遵守其隐私政策,不保留数据。GLM 5.2 和 GLM 5.3 Flash 同样只有云端标签(glm-5.2:cloud、glm-5.3-flash:cloud)。
通过 Ollama 使用 GLM 5.3
云端模型需要 Ollama 账号和 API key。
# 在终端里对话
ollama run glm-5.3:cloud
# 用 GLM 5.3 启动编程智能体
ollama launch claude --model glm-5.3:cloud
ollama launch opencode --model glm-5.3:cloud
通过 HTTP 调用:
curl https://ollama.com/api/chat \
-H "Authorization: Bearer $OLLAMA_API_KEY" \
-d '{
"model": "glm-5.3",
"messages": [{"role": "user", "content": "用 Python 写个快速排序"}]
}'
GLM 5.3 的思考始终开启,长任务会输出思考 token;想要更短的回答,把 reasoning_effort 设为 low。
在自己的硬件上跑 GLM 5.3
智谱于 2026 年 8 月 25 日发布了 zai-org/GLM-5.3(FP8)和 zai-org/GLM-5.3-BF16,采用自定义的 glm-5.3 许可证。Unsloth 于 8 月 28 日发布了 GGUF 量化版。下表体积是 Hugging Face 上各量化目录的合计:
| 格式 | 下载体积 | 典型配置 |
|---|---|---|
UD-IQ1_S(1-bit 动态量化) | 约 217 GB | 256 GB 内存或统一内存,速度慢 |
UD-Q2_K_XL | 约 254 GB | 256 GB 以上内存,加一张 GPU 分担 |
UD-Q4_K_XL | 约 467 GB | 多卡服务器或 512 GB 内存 |
Q8_0 | 约 801 GB | 8 张 80 GB 显卡以上 |
| FP8(官方) | 约 753 GB | 8× H100/H200,配合 SGLang 或 vLLM |
每个 GGUF 量化版都拆成了多个文件,用 llama.cpp 可以直接加载分卷 GGUF。要给多人提供服务,模型卡推荐用 SGLang 或 vLLM 跑 FP8 权重。
24 GB 或 48 GB 的单张消费级显卡放不下以上任何一种。如果你只有这类硬件,用云端标签,或换更小的 GLM 5.3 Flash。
常见问题
Ollama 上有 GLM 5.3 吗?
有,标签是 glm-5.3:cloud。它跑在 Ollama 的服务器上,需要 Ollama 账号和 API key。
能 ollama pull glm-5.3 然后离线运行吗?
不能。Ollama 模型库没有 GLM 5.3 的本地标签。要离线使用,从 Hugging Face 下载权重或 GGUF 量化版,用 llama.cpp、SGLang 或 vLLM 运行。
本地跑 GLM 5.3 需要多大内存? 最小的 GGUF 量化版约 217 GB,4-bit 量化版约 467 GB,官方 FP8 权重约 753 GB。
GLM 5.3 在 Ollama 上怎么收费? Ollama 页面标价为每百万 token 输入 $1.40、缓存输入 $0.26、输出 $4.40,与智谱官方 API 相同。
不想折腾部署,能直接用 GLM 5.3 吗?
可以。直接在浏览器里和 GLM 5.3 对话,或用模型 ID glm-5.3 调用智谱官方 API。
参考来源
- Ollama:glm-5.3,查询于 2026 年 11 月 11 日
- Hugging Face:zai-org/GLM-5.3
- Hugging Face:unsloth/GLM-5.3-GGUF
- Z.AI 官方博客:GLM-5.3(2026-08-14)
最后更新:2026 年 11 月 11 日



