AI 百科词条

模型量化（Model Quantization）是什么？

把模型参数从高精度压成低精度（如 16bit→4bit），用少量精度换大幅显存节省。

一句话说清楚

量化是本地部署和小成本推理的核心技术：4bit 量化能把 70B 模型的显存需求从 140GB 压到 40GB 左右，消费级显卡也能跑。代价是复杂推理任务上质量略降，简单任务基本无感。常见格式有 GGUF（本地部署生态）、AWQ/GPTQ（服务端）。

本地跑模型选 GGUF 4bit 起步，速度和质量的平衡点；服务端 API 无感——量化是服务商的事，你只需要知道「同参数量级不同厂商质量差异可能来自量化策略」。

「Q4 量化版」不是一定省心：复杂推理和代码任务上，4bit 量化模型的错误率明显高于原版，关键业务用 API 原模型更稳。

AI 读论文：速读、问答到文献综述

先让 AI 产出结构化摘要（问题/方法/结论），再针对公式与实验细节追问，支持引用溯源的工具可信度更高。

AI 做旅行攻略：行程、预算、避坑一次排好

说清天数、预算、偏好，AI 出逐日行程表，你只负责按真实交通与评价微调。

AI 模拟面试：从自我介绍到追问链全真演练

贴岗位 JD 与简历，AI 扮演面试官逐层追问，答完即给点评与改进版话术。