企业 AI 应用最容易失败的地方不在模型精度,而在「从 PoC 到生产」的最后一公里。结合多个落地项目,我们总结了一份可执行的清单。

选型与架构

  • 明确业务边界:先解决高频、低风险、ROI 可衡量的场景
  • 模型与推理成本评估:在线 vs 离线、大小模型分层
  • 数据与知识工程先行:RAG 质量取决于检索与切分

工程与治理

  • 可观测性:Token 用量、延迟、幻觉率都要埋点
  • 安全护栏:Prompt 注入、敏感信息过滤、审计日志
  • 灰度与回滚:以版本化方式管理 Prompt 与模型

组织与流程

  • 业务与算法共建评测集,用数据说话
  • 从工具型 Agent 到流程型 Agent 渐进演进
  • 定期复盘业务指标,而非只盯技术指标