一句话说清楚
边缘 AI 在手机、摄像头、车载设备等终端直接运行模型（量化后的小模型），省去网络往返。三大收益：延迟从百毫秒级降到毫秒级、断网可用、隐私敏感数据（人脸/语音）不离开设备。代价是模型能力受硬件限制，且每个设备型号都要适配。
这对你选工具意味着什么
毫秒级响应、离线可用、数据不能出设备三个条件命中其二选边缘；强算力需求（长上下文、复杂推理）留在云端。混合架构（本地小模型做前置判断 + 云端大模型兜底）是常见折中。
常见误区
设备碎片化陷阱——同一模型在 A 手机流畅、B 手机爆内存，测试必须覆盖真实低端设备而不是只跑旗舰机。
