核心深读MANUAL / FDE
Google Cloud 生成式 AI 生产运行指南
Operationalizing Generative AI
资料摘要
从原型进入生产所需的组织、数据、模型、评测、可观测性、治理和持续运营能力出发,建立平台团队与项目团队的共同上线清单。
适用对象与场景
已经完成生成式 AI 原型,准备进入受控试点、生产集成或规模化运行的工程与平台团队。
原文结构
- 从原型到生产的能力差距
- 数据、模型与应用生命周期
- 评测、可观测和治理
- 组织、平台与规模化
核心要点
生产化不是部署一个端点
数据、提示、模型、检索、工具、应用和用户流程都需要版本、测试和责任。
证据定位google-genai#Operational capabilities and lifecycle guidance
评测与可观测性相互补充
离线测试决定是否可发布,在线信号用于发现真实分布、采用和故障。
证据定位google-genai#Operational capabilities and lifecycle guidance
平台能力减少重复工程
身份、日志、评测、模型路由、成本和发布门禁适合沉淀为共享能力。
证据定位google-genai#Operational capabilities and lifecycle guidance
治理应嵌入交付路径
风险与审批如果只存在于文档末尾,会在快速迭代中被绕过。
证据定位google-genai#Operational capabilities and lifecycle guidance
运行目标必须可量化
质量、延迟、成本、可靠性、采用和业务结果应有基线、目标与权衡。
证据定位google-genai#Operational capabilities and lifecycle guidance
项目行动清单
定义共享模型接入、密钥、日志、评测和发布能力。
应形成证据:平台服务目录
对数据、提示、模型、检索和工具分别建立版本与回滚。
应形成证据:配置与版本清单
设定延迟、错误、容量、成本和降级目标。
应形成证据:SLO 与运行手册
连接离线门禁、在线监控和用户反馈。
应形成证据:评测—监控映射
将风险审批和证据检查嵌入发布流水线。
应形成证据:发布门禁记录
可追溯来源
- Google Cloud Operationalizing Generative AI厂商官方 · Operational capabilities and lifecycle guidance打开原文 ↗