本课程由机器自动翻译成中文,尚未经过人工校对。如果读起来有些奇怪,请以英文原文为准。
大多数人工智能项目从未投入生产。工作笔记本和可靠产品之间的差距是巨大的 - 涵盖基础设施、监控、团队流程和成本管理。本课程涵盖了成功弥合这一差距所需的一切。
在写一行代码之前,先问一下AI产品开发中最重要的问题:这个问题真的需要AI吗?答案是“不”,比你想象的更常见。
人工智能在以下情况下是正确的选择:
在以下情况下,人工智能是错误的选择:
10 倍规则: 如果人工智能在速度、准确性或成本方面不能比非人工智能替代方案提供至少 10 倍的改进,那么维护机器学习系统的操作复杂性就很少值得。
并非每个问题都需要大型语言模型。选择错误的模型类型是人工智能产品开发中最昂贵的错误之一。将工具与任务相匹配:
|问题类型 |最佳方法|示例| |---|---|---| |表格预测 |梯度提升树(XGBoost、LightGBM)|客户流失预测、定价 | |图像任务| CNN 或视觉转换器 |质量检验、OCR | |文本分类 |微调 BERT 或更小的法学硕士 |情感分析、路由 | |生成文本 | LLMs(GPT、Claude、Llama)|聊天机器人,内容生成 | |时间序列| Prophet、N-BEATS 或时间 CNN |需求预测|
对于具有 50,000 行结构化数据的表格流失预测任务,哪种方法通常最有效?
迭代的速度每次都超越完美。团队花费数月时间进行构建,然后根据假设验证浪费资源。使用此框架快速验证想法:
第 1 天 - 范围和数据。 定义重要的单一指标。这是没有商量余地的 - 如果没有明确的成功指标,你就无法评估任何东西。收集或模拟最小可行数据集。不要完美地清洁它 - 足以使用即可。
第 2 天 - 构建和测试。 使用现有模型或 API。将其包装在一个最小的界面(Streamlit、Gradio 或简单的 API)中。获取人类可以互动的东西。
第 3 天 - 验证。 将其放在真正的用户或利益相关者面前 - 不是有礼貌的同事,而是真正愿意为解决方案付费的人。根据您的成功指标进行衡量。决定:杀戮、转向或投资。
想想你最近参与的人工智能项目。将第一个版本提供给用户需要多长时间?三天的冲刺能否更快地验证核心思想?
生产机器学习需要严格的操作实践,而大多数数据科学家在学术环境中从未学习过这些实践。核心原则看似简单:**对所有内容进行版本控制,自动化所有内容。**然而,执行需要纪律和正确的工具。
版本内容:
管道自动化:
登录 后参与讨论
Google 的研究发现,现实世界中的 ML 系统代码中只有约 5% 是实际模型。剩下的 95% 是数据管道、服务基础设施、监控和配置管理。
部署模型不是终点线,而是起跑线。如果没有适当的监控,模型会悄然退化,当有人注意到时,损害已经造成。
数据漂移 - 输入数据分布随时间变化。根据大流行前的购物数据训练的模型将无法适应大流行后的模式。使用柯尔莫哥洛夫-斯米尔诺夫测试或群体稳定性指数等测试连续监控特征分布,并对统计上显着的变化发出警报。
模型退化 - 即使没有数据漂移,模型性能也会随着现实世界的变化而下降。用户行为不断变化,竞争对手改变市场,季节性模式改变结果。持续跟踪预测置信度、错误率和业务指标。
关键监控实践:
生产机器学习系统中的”数据漂移”是什么?
人工智能推理成本可能会迅速上升。明智的架构决策使它们易于管理。
实用策略:
哪种成本优化策略涉及根据查询复杂性使用不同的模型?
如果给你每月 10,000 英镑的人工智能推理预算,你会如何分配?考虑系统的哪些部分需要实时响应而不是批处理,以及缓存可以消除冗余计算。
构建人工智能产品从根本上来说是一项产品和工程挑战,而不仅仅是机器学习挑战。牢记这些原则:
最好的人工智能产品是由深入了解技术和业务问题的团队构建的。缺乏产品思维的卓越技术会导致令人印象深刻的演示,但无人使用。