AI 百科词条

上下文缓存（Context Caching）是什么？

把重复用的大段内容「记住」，下次调用更快也更便宜。

一句话说清楚

调用大模型 API 时，同样的大文档或系统提示词每次都要重新计费、重新计算。上下文缓存让这部分内容被服务端记住：后续请求引用缓存，按「缓存命中价」计费（通常是正常价的零头），响应也更快。对「固定知识库 + 多轮问答」类应用（客服机器人、内部文档助手）是显著的成本优化。

系统提示词长（超过几千字）且被反复调用的应用，开缓存收益立竿见影；每条请求内容都不同的场景（开放式写作）收益有限。

缓存有有效期与失效条件：改了一个字整个缓存作废，费用照旧——把「常变的部分」放在提示词末尾，「不常变的大块头」放前面，命中率才高。

AI 编程：从行间补全到整仓生成

选型看两点：与现有 IDE/语言栈的贴合度，以及「能读懂多大上下文」。

AI 读论文：速读、问答到文献综述

先让 AI 产出结构化摘要（问题/方法/结论），再针对公式与实验细节追问，支持引用溯源的工具可信度更高。

AI 做旅行攻略：行程、预算、避坑一次排好

说清天数、预算、偏好，AI 出逐日行程表，你只负责按真实交通与评价微调。