一句话说清楚
大模型动辄千亿参数,小模型把参数压到几亿到几十亿:在手机、浏览器本地就能跑,响应快、成本低、数据不出设备。它牺牲了一部分推理与知识广度,换来的是部署自由——适合任务边界清晰、不需要「什么都懂」的场景。
这对你选工具意味着什么
任务固定且简单(分类、抽取、格式转换、简单问答)选小模型更划算;需要复杂推理、长文写作时再上大模型。混合策略是:小模型处理 80% 的常规请求,难活转大模型。
常见误区
小模型的「幻觉」率不一定比大模型低——它只是更便宜;涉及事实与数字的任务,核验环节不能省。