先定任务边界，不先追模型名
AI Agent 应用开发不应该从“做一个通用问答入口”开始。这个说法太泛，容易做成一个什么都能问、但什么都不稳定的聊天框。能上线的 Agent，通常先有一个很窄的任务。
比如读取知识库后生成客服回复草稿，检查表单字段是否完整，按规则给工单分类，或者从后台数据里整理一份待处理清单。任务越明确，评测和验收越容易。
工具调用要分风险等级
Agent 一旦能调用工具，风险就不只在回答内容上。查询数据、创建记录、修改状态、发送消息，影响完全不同。每个工具都要说明能不能自动执行，什么时候必须等人工确认。
低风险动作可以自动完成，高风险动作要停下来让人确认。这样既能让 AI 进入真实流程，也不会把关键业务交给一个不可复盘的黑箱。
- 低风险：检索资料、整理摘要、生成草稿
- 中风险：创建工单、打标签、发送内部提醒
- 高风险：修改关键数据、对外发送正式结论、触发付款或合同流程
知识库要有来源和版本
企业 AI 应用常见问题不是资料太少，而是资料混在一起。旧制度、新话术、项目文档、产品说明都放进去，Agent 看起来都能答，实际不知道该信哪一份。
知识库要保留来源、更新时间、适用范围和权限。对外回复、合同条款、价格政策这类内容，还要能把引用材料展示给人工审核。
评测样例决定能不能上线
AI Agent 不能只看演示效果。上线前要准备一批样例：正常问题、边界问题、缺资料问题、权限外问题、错误输入和高风险请求。
每次改知识库、提示词或工具调用，都用样例回归。通过样例不代表没有风险，但能减少“今天看起来对，明天改完就错”的情况。
先小范围用，再扩大自动化
企业 AI 应用更适合从内部流程开始。先给运营、客服、销售或项目同事用，保留人工确认和日志，观察它在哪些任务上稳定，在哪些地方需要回到人工。
等任务边界、资料质量和评测样例都稳定，再扩大自动化范围。这样做慢一点，但更接近真实可用。
